Die Frage wird meist rückwärts gestellt
Teams, die KI in einen Betrieb integrieren, fragen meist: „Wie viel können wir ihr erlauben?" Die Frage klingt praktisch, misst aber das Falsche. Sie verankert sich an der Fähigkeit des Modells — wie gut es ist — während die Variable, die die Befugnis bestimmen sollte, der Schaden ist, den eine falsche Aktion verursachen würde.
Ein System kann hochgradig fähig sein und trotzdem ein schlechter Kandidat für Autonomie, wenn die Konsequenz eines seltenen Fehlers schwerwiegend ist. Umgekehrt kann einem bescheidenen System vertraut werden, allein zu handeln, wo Fehler billig und reversibel sind. Fähigkeit und Konsequenz sind unterschiedliche Achsen, und es ist die Konsequenz, die die Grenze setzen muss.
Autonomie als Leiter, nicht als Schalter
Autonomie ist nicht ein/aus. Sie ist eine Leiter, und eine Aktion kann auf einer anderen Stufe stehen als die daneben. Die Stufen reichen vom Anbieten eines Ratschlags, den ein Mensch akzeptieren muss, über das Handeln nur nach Genehmigung, bis zum Handeln innerhalb expliziter Grenzen mit Berichterstattung — wobei ein Mensch jederzeit eingreifen kann.
Autonomie proportional zur Konsequenz
- Nur Beratung Das System informiert; eine Person entscheidet und handelt.
- Vorgeschlagene Aktion Das System schlägt vor; eine Person prüft und führt aus.
- Genehmigungspflichtige Aktion Das System bereitet vor und handelt erst nach menschlicher Genehmigung.
- Begrenzte autonome Aktion Das System handelt innerhalb expliziter Grenzen, überwacht, mit Wiederherstellung.
- Kontinuierliche Autonomie Nur für beobachtbares, umkehrbares, folgenarmes Verhalten mit nachgewiesener Wiederherstellung.
Der praktische Schritt ist, jede Aktion — nicht jedes System — auf eine Stufe zu setzen. Ein einzelner Betrieb wird mehrere umfassen: Er kann allein entwerfen und abrufen, muss vor einer folgenreichen Änderung für eine Person anhalten, und darf einen routinemäßigen, reversiblen Schritt innerhalb festgelegter Grenzen ausführen.
Wie man eine Aktion einordnet
Drei Fragen entscheiden die Stufe. Wie reversibel ist die Aktion, wenn sie falsch ist? Wie groß ist der Schaden, wenn sie falsch ist und nicht entdeckt wird? Und wie zuversichtlich, im kalibrierten Sinne, ist das System bei diesem konkreten Fall? Geringe Reversibilität oder hoher Schaden zieht die Aktion die Leiter hinauf zur menschlichen Befugnis, unabhängig davon, wie fähig das Modell im Durchschnitt ist.
Konfidenz ist wichtig, aber nur als Modifikator und nur wenn sie kalibriert ist. Ein überzuversichtliches System ist gefährlicher als ein vorsichtiges, weil es eine Befugnis beansprucht, die es sich nicht verdient hat. Wo die Konfidenz niedrig ist, sollte die Aktion eine Stufe aufsteigen — zu einem Menschen — statt fortzufahren.
Jede Stufe hat einen Eintrittspreis
Eine Stufe zu gewähren ist nicht kostenlos. Jede Autonomieebene trägt Kontrollen, die erfüllt sein müssen, bevor sie erlaubt ist:
- Rat und Entwurf. Verankerung in abgerufenen Quellen und Zitaten, damit ein Mensch die Argumentation prüfen kann.
- Handeln nach Genehmigung. Ein klares Genehmigungstor, eine vollständige Aufzeichnung dessen, was vorgeschlagen und von wem es genehmigt wurde, und ein einfacher Weg zur Ablehnung.
- Handeln innerhalb von Grenzen. Explizite Grenzen, Überwachung gegen diese Grenzen, und automatische Eskalation, wenn ein Fall außerhalb liegt.
- Jede Stufe. Ein nur anfügbares Prüfprotokoll, die Fähigkeit eines Menschen einzugreifen, und eine Evaluation, die wiederholt, nicht einmalig durchgeführt wird.
Wo dies umgesetzt wird
Dies ist nicht nur eine Position. Im Gesteuerten Fallbearbeitungssystem ist das Genehmigungstor ein benannter Zustand, und die Befugnis ist nach Konsequenz gestuft: Schritte mit geringer Konsequenz laufen innerhalb von Grenzen, folgenreiche halten für einen Menschen an, und die folgenreichsten erfordern eine Genehmigung durch eine leitende Person. Der Blueprint für gesteuerte KI verallgemeinert dieselbe Kontrollgrenze.
Einschränkungen
Dies ist eine Methode, keine Messung. Sie argumentiert, wie man Befugnis entscheidet; sie behauptet keine spezifische Fehlerrate oder Ergebnis für irgendein System. Die Konsequenz einer Aktion zu klassifizieren ist selbst ein Urteil, das mit den Verantwortlichen des Betriebs gefällt und überarbeitet werden muss, wenn sich der Betrieb ändert.