Wie viel darf die AI selbst entscheiden? Was acht KMU über Kontrolle sagen

Jeden AI-Vorschlag einzeln freigeben? Bei Zehntausenden Kundinnen und Kunden ist das ein unmöglicher Aufwand. Gar nichts prüfen? Bei medizinischen Inhalten undenkbar. Die Frage ist also nicht: Mensch oder AI? Die Frage ist viel mehr: Wie viel Kontrolle braucht es an welcher Stelle? Genau das haben uns acht KMU in unserer Studie mit der ZHAW und Innosuisse erzählt. Und mit diesem Wissen bauen wir unsere Aivie AI auf. Wie das genau aussieht, beschreibt der Beitrag.

Inhalt

• Worum es geht
• Erkenntnis 1: Alle wollen wissen, warum
• Erkenntnis 2: Alles einzeln freigeben geht nicht
• Erkenntnis 3: Wie viel Kontrolle es braucht, hängt vom Risiko ab
• So kann die Freigabe in Stufen aussehen
• Erkenntnis 4: Es muss nicht in Echtzeit sein
• Unser Pilot
• Sei dabei

Worum es geht

Zusammen mit der ZHAW und Innosuisse haben wir acht Schweizer KMU gefragt: Würdet ihr eine AI gemeinsam mit anderen trainieren, wenn ihr dabei nicht eure Kundendaten hergeben müsstet? Im ersten Beitrag habe ich gezeigt: Niemand hat Nein gesagt. Gezweifelt haben die Leute am Nutzen. Im zweiten Beitrag ging es ums Vertrauen und darum, warum Datenschutz ein Verkaufsargument sein kann. Heute geht es um die letzte grosse Frage: Wie viel darf die AI selbst entscheiden?

Die Idee ist einfach. Die AI schaut sich an, was ein Kontakt macht, und schlägt dir den nächsten Schritt vor: welchen Inhalt du schickst, wann und an wen. Ein Beispiel: Jemand lädt auf deiner Website ein Whitepaper herunter. Dann passiert meistens nichts, weil niemand Zeit hat, nachzufassen. Die AI könnte dir hier sagen: Schick dieser Person jetzt diesen Artikel.

Nur: Darf sie ihn dann auch gleich selbst verschicken? Oder musst du jedes Mal Ja sagen? Wichtig zur Einordnung: Acht Gespräche sind nicht repräsentativ. Aber sie zeigen sehr ehrlich, wie KMU über das Thema denken.

Erkenntnis 1: Alle wollen wissen, warum

Alle, die wir befragt haben, waren sich darin einig: Wenn die AI etwas vorschlägt, wollen sie wissen, warum. Sie wollen nachvollziehen, wieso dieser Vorschlag Sinn macht, weil sie ihm sonst nicht trauen. Sie wollen zudem Fehler erkennen. Niemand möchte eine Blackbox, wenn es um solch wichtige Themen geht.

Ein Unternehmen hat noch etwas Spannendes gesagt: Statt einer langen Begründung in Textform würde ihm auch ein klarer Wert reichen. Eine Zahl, die sagt, wie sicher sich die AI ist.

Erkenntnis 2: Alles einzeln freigeben geht nicht

Ein Unternehmen aus der Studie hat Zehntausende Kundinnen und Kunden und ein kleines Team. Jeden Tag jeden Vorschlag der AI einzeln anschauen? Unmöglich. Der Satz dazu war ganz klar:

«Es müsste automatisiert funktionieren, sonst wäre es für uns keine Hilfe.»

Ein anderes Unternehmen hat es ähnlich gesehen. Lieber mit Vorlagen und Stufen arbeiten, als alles einzeln zu prüfen.

Erkenntnis 3: Wie viel Kontrolle es braucht, hängt vom Risiko ab

Jetzt wird es interessant. Dieselben Leute wollen je nach Fall volle Automatisierung oder eine strenge Einzelprüfung. Ein Unternehmen hat es so erklärt: Bei seinem teuren Produkt mit viel Beratung würde es die Vorschläge selbst überwachen. Bei einem günstigen Massenprodukt würde es der AI dagegen die volle Macht geben.

Ein weiterer Kunde, eine Agentur, arbeitet auch mit medizinischen Inhalten. Diese muss immer ein Facharzt freigeben. Normale Marketing-Inhalte veröffentlicht sie dagegen nach einer Testphase automatisch. Abgesichert ist das mit einem Wert, ab dem etwas automatisch rausgeht, und mit einem Zeitfenster, in dem ein Mensch noch eingreifen kann. Die Studie sieht darin ein nützliches Vorbild.

Ich kann das gut nachvollziehen. Die Botschaften, die rausgehen, müssen auch bei mir unter Kontrolle bleiben. Ich will nichts versprechen, was nicht stimmt. Und ich will keine Probleme auslösen, die ich nachher ausbaden muss. Gleichzeitig geht es nicht, alles einzeln zu prüfen. Alle zwei Sekunden eine Freigabe? Das kann niemand.

Darum glaube ich an einen smarten Mittelweg: genug Kontrolle, ohne unnötig viel Arbeit. Das Modell der Agentur ist dafür für mich ein gutes Beispiel.

So kann die Freigabe in Stufen aussehen

Aus dem, was die Unternehmen erzählt haben, ergibt sich eine Art Treppe:

1. Die AI entscheidet selbst. Kleines Risiko, viele Kontakte, zum Beispiel ein Hinweis auf einen neuen Blogartikel.
2. Die AI entscheidet mit Zeitfenster. Du kannst noch eingreifen, bevor etwas rausgeht.
3. Die AI schlägt vor, du gibst frei.
4. Ein Mensch prüft immer. Bei teuren, sensiblen oder regulierten Angeboten schaut immer jemand genau hin.

Eine Lösung in dieser Art könnte ich mir gut vorstellen. Wichtig ist: Du entscheidest, was auf welcher Stufe läuft. Nicht die AI. Wie du bei agentic AI festlegst, was sie sehen und tun darf, haben wir in «Marketing will bauen, Legal bremst» beschrieben. Wie siehst du das? Schreib mir deine Sicht, ich bin gespannt.

Erkenntnis 4: Es muss nicht in Echtzeit sein

Einen klaren Wunsch nach Echtzeit gab es nicht. Ein Unternehmen reagiert bewusst nicht auf jeden einzelnen Klick. Es wartet, bis sich ein Muster zeigt. Das passt besser zu seinem ruhigen Stil, mit Kundinnen und Kunden zu kommunizieren. Und ein anderes sagt: Gebt dem System ruhig Zeit, mehr Signale zu sammeln.

Am Anfang will man es aber genau wissen. Jemand hat zur Freigabe gesagt:

«Ja, klar. Ich will ja lernen. Ich will es ja sehen.»

Also: Erst selbst freigeben und dann Schritt für Schritt mehr loslassen.

Unser Pilot

Was die Studie uns für unsere Pilot-AI mitgibt:

1. Die Unternehmen in einer Pilotgruppe sollten aus einer ähnlichen Branche kommen. Sonst sagen die Resultate wenig aus.
2. Die Unternehmen wollen einen konkreten Anwendungsfall sehen, nicht ein grosses Versprechen.
3. Der Einstieg muss einfach sein. Kleine Teams haben keine Zeit, wochenlang Daten aufzuräumen.

Die Pilotunternehmen bekommen eine eigene AI für ihr Marketing, mit ihren eigenen Daten. Aivie trainiert die Modelle und hostet die Infrastruktur. Aktuell testen wir erste Use Cases live, werten aus, was funktioniert, und sammeln weitere Use Cases mit weiteren Pilotunternehmen.

Sei dabei

Für unseren Piloten suchen wir noch weitere KMU, die genau das ausprobieren wollen, mit ihrer eigenen AI und ihren eigenen Daten. Willst du mitgestalten? Dann schreib mir oder buch dir direkt ein Gespräch.

Und wenn du wissen willst, warum ich bei AI immer frage «Wessen AI?», lies weiter: Deine Daten sind dein Schatz. Gib sie nicht einfach der AI.