KI einführen ohne ins Stolpern zu geraten

Zwei Nachrichten aus den USA diese Woche, die zusammen mehr sagen als jede einzeln.

Einer der größten Pizza-Hut-Franchisenehmer verklagt die Kette auf 100 Millionen Dollar Schadenersatz. Der Vorwurf: Pizza Hut hat eine KI-Lösung verpflichtend eingeführt, die im Betrieb massive Probleme verursacht hat. Parallel dazu hat Starbucks sein KI-Tool zur automatischen Lagerbestandsüberwachung nach gerade mal neun Monaten wieder eingestellt. Die Software hat Produkte nicht erkannt und sich regelmäßig verzählt.

Beide Fälle haben denselben Kern: KI wurde eingeführt, bevor sie im echten Betrieb bewiesen hatte, dass sie funktioniert. Bei Pizza Hut kam erschwerend hinzu, dass Franchisenehmer keine Wahl hatten. Wer ein System ohne Rückzugsoption vorschreibt, trägt die volle Verantwortung, wenn es schiefgeht. Das ist kein KI-Problem, das ist ein Governance-Problem.

Für dich als Mittelständler sind das keine fernen Konzerngeschichten. Die Fragen sind dieselben wie bei jeder KI-Einführung: Läuft das System parallel zum bisherigen Prozess, bevor es ihn ersetzt? Gibt es einen klaren Abbruchpunkt, wenn die Qualität nicht stimmt? Und wer haftet, wenn ein Dienstleister dir ein Tool verkauft, das in der Praxis versagt?

Das Starbucks-Beispiel ist dabei fast lehrreicher als die Klage. Neun Monate Betrieb, erkennbare Fehler, dann Stopp. Das ist eigentlich das richtige Vorgehen, nur hätte es früher kommen müssen. Wer KI-Tools einführt, braucht von Anfang an messbare Qualitätskriterien und einen festen Zeitpunkt, an dem er ehrlich bewertet, ob das System hält, was es versprochen hat.

Die Technologie ist in beiden Fällen nicht das eigentliche Problem. Schlecht eingeführte Software hat schon immer Betriebe Geld gekostet. Was sich geändert hat: Die Erwartungen an KI sind oft unrealistisch hoch, und der Druck, schnell einzuführen, ist größer als je zuvor.

Definiere vor jeder KI-Einführung schriftlich, wann du abbrichst: konkrete Qualitätskriterien, fester Bewertungszeitpunkt, Parallelbetrieb bis zum Beweis.

Eine aktuelle Studie zeigt: In den meisten Unternehmen laufen KI-Agenten einfach durch, ohne dass jemand hinschaut. Kein Monitoring, kein klarer Verantwortlicher, kein Prozess, der eingreift, wenn etwas schiefläuft. Was als schnelle Lösung gestartet ist, wird so zur technischen Altlast.

Das Gegenmittel ist nicht kompliziert. Jeder Agent braucht einen Eigentümer im Betrieb, eine klare Aufgabe und eine regelmäßige Prüfung: Tut er noch das, wofür er gebaut wurde? Greift er auf Daten zu, auf die er nicht zugreifen sollte? Das klingt nach Aufwand, ist aber in der Praxis eine kurze Checkliste, die einmal im Monat jemand abhakt.

Google hat mit dem Open-Source-Tool Agent Executor einen Ansatz veröffentlicht, der Unternehmen helfen soll, KI-Agenten strukturierter in den laufenden Betrieb zu bringen: mit definierten Abläufen, nachvollziehbaren Protokollen und besserer Kontrolle darüber, was ein Agent wann tut. Analysten loben den Ansatz, weisen aber darauf hin, dass das Tool allein keine Governance-Strategie ersetzt.

Für den Mittelstand gilt: Die meisten Betriebe haben noch nicht viele Agenten im Einsatz. Das ist die beste Phase, um saubere Gewohnheiten zu entwickeln. Wer jetzt eine einfache Inventarliste führt, welche Agenten laufen und wer dafür verantwortlich ist, hat später keinen Aufräumbedarf.

Der EU AI Act tritt nicht auf einmal in Kraft, sondern in Stufen. Die wichtigste Frist für die meisten Mittelständler: August 2026. Ab dann gelten die Pflichten für sogenannte Hochrisiko-KI-Systeme vollständig, also für KI, die in sensiblen Bereichen wie Personalentscheidungen, Kreditvergabe oder Sicherheitstechnik eingesetzt wird.

Das Gute zuerst: Die meisten Betriebe, die KI heute für Texterstellung, interne Suche oder einfache Automatisierung nutzen, fallen nicht in die Hochrisiko-Kategorie. Für sie bleibt der Aufwand überschaubar. Trotzdem gibt es zwei Punkte, die alle betreffen: Transparenzpflichten gegenüber Nutzern, wenn KI im Spiel ist, und ein Mindestniveau an KI-Kompetenz bei den Mitarbeitenden, das Unternehmen nachweisbar sicherstellen müssen.

Kritischer wird es, sobald du KI einsetzt, die Entscheidungen über Menschen trifft oder beeinflusst, etwa bei der Bewerberauswahl, der Bonitätsprüfung von Kunden oder der Steuerung von Maschinen mit Sicherheitsrelevanz. Der AI Act sieht für Verstöße in diesem Bereich empfindliche Bußgelder vor, die im Verordnungstext nach Schwere der Verletzung gestaffelt sind.

Drei Schritte, die jetzt sinnvoll sind: Erstens, eine kurze Bestandsaufnahme, welche KI-Tools du im Betrieb nutzt und wofür. Zweitens, prüfen, ob einer dieser Einsatzbereiche unter die Hochrisiko-Kategorie fällt. Drittens, Anbieter fragen, ob ihre Systeme bereits auf AI-Act-Konformität ausgelegt sind, denn die Pflicht liegt nicht allein bei dir, sondern auch beim Hersteller.

Zwei Jahre klingen lang. Wer aber erst im Sommer 2026 anfängt, wird feststellen, dass Dokumentation, interne Schulungen und Anpassungen an Prozessen mehr Zeit brauchen als gedacht.

Drei Signale aus dieser Woche, die zusammenpassen: Eine aktuelle Studie zu deutschen Großunternehmen zeigt, dass KI-Projekte zwar gestartet werden, aber selten in den produktiven Alltag kommen. Gleichzeitig warnt Programmierer George Hotz nach sechs Monaten Testing, KI-Agenten in der Softwareentwicklung seien einer der teuersten Fehler der Branche. Und ein Ratgebertext zu Legacy-Modernisierung mit KI kommt zum selben Schluss: Ein Prompt macht noch kein neues System.

Das Muster ist immer gleich. KI liefert schnell etwas Vorzeigbares, einen Prototyp, eine erste Ausgabe, einen Proof of Concept. Dann beginnt die eigentliche Arbeit, und genau dort fehlt der Plan. Hotz bringt es auf den Punkt: Sprachmodelle scheitern an der Feinarbeit und produzieren Fehler, die mit der Zeit immer schwerer zu erkennen sind. Andrej Karpathy, selbst überzeugter KI-Entwickler, räumt ein, dass KI-generierter Code oft schlicht unordentlich ist.

Für deinen Betrieb heißt das: Der Fehler ist nicht, KI einzusetzen. Der Fehler ist, KI ohne klare Verantwortung, ohne definierten Prozess und ohne jemanden einzusetzen, der das Ergebnis wirklich prüft. Wer ein KI-Werkzeug auf ein bestehendes System oder einen bestehenden Prozess loslässt und hofft, dass es sich selbst sortiert, wird enttäuscht.

Was funktioniert: Einen konkreten, eng begrenzten Anwendungsfall wählen. Einen Verantwortlichen benennen, der das Ergebnis kennt und bewertet. Erst wenn das läuft und messbar Nutzen bringt, den nächsten Schritt machen. Kein Pilotfriedhof, kein KI-Projekt um des Projekts willen.