Probleme
KI funktioniert in der Demo, nicht im Betrieb
Ein Prototyp funktioniert isoliert, doch ihm fehlen die Integration, die Berechtigungen, die Evaluation, die Überwachung, die menschliche Kontrolle, der Umgang mit Ausfällen und die Wirtschaftlichkeit, um im realen Betrieb zu laufen. Die Lücke liegt nicht im Modell — sie liegt im System um das Modell herum.
Wie man es erkennt
Die beobachtbaren Anzeichen.
- Das Modell läuft in einem Notebook oder einer Demo-Umgebung, nicht im Arbeitsablauf.
- Es gibt keinen Evaluationssatz und keine vereinbarte Qualitätsmesslatte.
- Niemand ist dafür verantwortlich, was passiert, wenn das Ergebnis falsch ist.
- Kosten und Latenz bei echtem Volumen sind unbekannt.
- Die Sicherheitsprüfung schickt das Pilotprojekt immer wieder zurück.
Was es kostet
Die operative Konsequenz.
Die Investition stockt zwischen Demo und Produktion. Jeder Versuch, live zu gehen, öffnet dieselben ungelösten Kontrollfragen erneut, und die Organisation kommt stillschweigend zu dem Schluss, dass KI hier nicht funktioniert.
Der Zielbetrieb
Wie der gelöste Betrieb aussieht.
Eine gesteuerte operative Fähigkeit: integriert, mit Berechtigungen versehen, bewertet, überwacht, mit menschlicher Kontrolle im Verhältnis zur Konsequenz und einem geprüften Weg für den Ausfall.
- Die Fähigkeit läuft innerhalb des Arbeitsablaufs, mit echtem Volumen.
- Die Qualität wird kontinuierlich gegen eine vereinbarte Messlatte gemessen.
- Wenn das System unsicher ist, wendet es sich an eine Person — per Design.
Was wir bauen
Das System, das es löst.
Eine Kontrollgrenze um die Fähigkeit: begrenzte Berechtigungen, Evaluation vor und während der Produktion, Überwachung, definierter Umgang mit Ausfällen, und menschliche Befugnis über folgenreiche Schritte.
Unter Kontrolle
Das Hauptrisiko und wie es gehandhabt wird.
Das Hauptrisiko ist Autonomie jenseits dessen, was Nachweise stützen. Befugnis wird in Schritten gewährt, die der Konsequenz entsprechen, mit Evaluation und nachgewiesener Wiederherstellung vor jedem Schritt — niemals allein aufgrund einer Demonstration.
Nachweise
Prüfen, bevor Sie glauben.
Der relevanteste veröffentlichte Beleg für diese Situation ist: Blueprint für gesteuerte KI und Agenten — versioniert, datiert, mit den auf den Beleg-Seitenangegebenen Einschränkungen.
Beschreiben Sie die Fähigkeit und den Betrieb, dem sie dienen muss. Das erste Ergebnis definiert die Kontrollgrenze und die Abnahmekriterien, die die Produktion erfordern würde.
Beauftragung
Beginnen Sie mit dem, was sich ändern muss.
Beschreiben Sie den Betrieb und wo er fehlschlägt. Beschreiben Sie die Fähigkeit und den Betrieb, dem sie dienen muss. Das erste Ergebnis definiert die Kontrollgrenze und die Abnahmekriterien, die die Produktion erfordern würde.
Alternativ können Sie eine Ausschreibung einreichen, oder zuerst eine NDA anfordern.