KI und Arbeitsalltag
Ein Textvorschlag lässt sich vor dem Versand lesen. Ein KI-Agent kann dagegen mehrere Schritte ausführen, Daten ändern und Dienste miteinander verbinden. Damit werden aus ungenauen Antworten unter Umständen echte Vorgänge. Eine aktuelle IBM-Befragung zeigt, warum die Regeln für solche Systeme genauso sorgfältig geplant werden müssen wie ihre Aufgaben.
Was die IBM-Zahlen aussagen
IBM meldet, dass 80 Prozent der befragten Führungskräfte einen KI-bezogenen Vorfall im vergangenen Jahr bis zum Vorstand oder zur Geschäftsleitung eskaliert sahen. In Deutschland waren es 82 Prozent. Gleichzeitig berichteten nur 40 Prozent im untersuchten Raum von daraufhin angepassten Governance-Regeln; unter den deutschen Befragten waren es 39 Prozent.
Die Studie wurde im September 2026 von Censuswide im Auftrag von IBM durchgeführt. Befragt wurden 3.221 Führungskräfte aus Unternehmen mit mindestens 1.000 Beschäftigten in acht Ländern Europas und des Nahen Ostens. Das sind Selbstauskünfte aus einer definierten Stichprobe. Die Zahlen sind keine gemessene Fehlerquote sämtlicher KI-Systeme und keine repräsentative Aussage über jedes kleine deutsche Unternehmen.
Für kleinere Betriebe ist die Fragestellung dennoch nützlich: Wer erfährt von einem fehlerhaften Vorgang, und wer darf ihn stoppen? Unsere Empfehlung ist, diese beiden Fragen vor der Einführung konkret zu beantworten. Eine allgemein benannte Verantwortung der Geschäftsleitung hilft im Fehlerfall wenig, wenn niemand weiß, wer den Zugang zu einem einzelnen Dienst sperren kann.
Aufgaben und Erlaubnisse trennen
Der NIST-Rahmen für KI-Risiken stellt unter anderem klar definierte Rollen, dokumentierte Aufgaben und menschliche Aufsicht in den Mittelpunkt. Das ist ein brauchbarer Ausgangspunkt für eine eigene Einführung. Ein Agent sollte nicht nur eine Zielbeschreibung bekommen, sondern auch einen festgelegten Handlungsspielraum und einen Verantwortlichen für den jeweiligen Prozess.
Als redaktionelles Beispiel nehmen wir eine eingehende Kundenanfrage. Eine erste Stufe könnte Informationen zusammenstellen und einen Antwortentwurf vorbereiten. Das Versenden, das Ändern einer Kundenadresse und die Zusage eines Preises sind weitere Schritte mit anderen Folgen. Wir würden diese Befugnisse einzeln freigeben und getrennt testen, statt sie unter dem allgemeinen Ziel „Anfrage bearbeiten“ zusammenzufassen.
Schreibe für jeden Schritt auf, welche Daten benötigt werden und welche Systeme erreichbar sein müssen. Ein Rechercheauftrag braucht nicht automatisch Schreibzugriff auf die gesamte Kundendatenbank. Für die praktische Umsetzung empfehlen wir einen eigenen begrenzten Zugang und klar abgegrenzte Datenbestände. Die konkrete technische Ausgestaltung muss zu den vorhandenen Systemen passen.
Freigaben verständlich gestalten
Eine Freigabe ist nur hilfreich, wenn die Person die geplante Aktion beurteilen kann. Unser Vorschlag: Zeige vor einem Versand Empfänger, vollständigen Inhalt und relevante Anhänge; vor einer Änderung den alten und den neuen Wert. Ein bloßes „Soll ich fortfahren?“ ohne sichtbaren Gegenstand verlagert Verantwortung, ohne eine wirkliche Prüfung zu ermöglichen.
Lege außerdem fest, bei welchen Abweichungen der Ablauf anhält. Dazu können ein unbekannter Empfänger, fehlende Pflichtdaten oder ein widersprüchlicher Auftrag gehören. Teste solche Fälle absichtlich mit Beispieldaten. Der Erfolg einer Vorführung sollte nicht nur an vollständig ausgeführten Standardfällen gemessen werden, sondern auch an richtig erkannten Stopps.
Bei Protokollen empfehlen wir eine verständliche Zuordnung von Auftrag, ausgeführter Handlung, Zeitpunkt und Ergebnis. Gleichzeitig gehören Passwörter und unnötige personenbezogene Inhalte nicht in ein breit zugängliches Log. Bestimme daher, wer die Aufzeichnungen sieht und wie lange sie für den konkreten Prozess benötigt werden.
Mit einem kleinen Prozess starten
Für einen ersten Pilot würden wir eine Aufgabe mit überschaubaren Folgen wählen, beispielsweise das Sortieren von Beispieldokumenten und das Vorbereiten einer internen Übersicht. Definiere vorab, was als richtiges Ergebnis gilt und welche Fehler besonders relevant sind. Vergleiche anschließend Zeitgewinn und Korrekturaufwand gemeinsam, statt nur die Laufzeit des Agenten zu betrachten.
Vor einer Ausweitung gehören ein Abbruchtest und ein Wiederanlauf dazu. Wer übernimmt die offenen Fälle, wenn ein Dienst ausfällt? Wie erkennt das Team bereits ausgeführte Schritte? Unsere Empfehlung ist, auch einen unterbrochenen Vorgang durchzuspielen. Eine gute normale Ausgabe beweist noch nicht, dass das System nach einer Störung keine Änderung doppelt ausführt.
KI-Governance wird damit zu einer praktischen Betriebsaufgabe: Zuständigkeiten, begrenzte Zugriffe, überprüfbare Freigaben und ein geübter Fehlerweg. Ein Regelpapier allein erledigt diese Arbeit nicht. Wenn der erste Prozess unter diesen Bedingungen zuverlässig läuft, lässt sich anhand realer Ergebnisse entscheiden, welche zusätzliche Befugnis als Nächstes sinnvoll ist.
Recherchestand: 20. Oktober 2026.
