KI-Agenten steuern Sie, indem Sie Selbstständigkeit stufenweise vergeben, riskante Schritte von Menschen freigeben lassen und jede Grenze technisch durchsetzen. Unser Denkmodell zeigt Ihnen, wie das im Mittelstand aussieht.
KI Agenten steuern heißt: Sie legen vorab fest, was ein Agent darf, und setzen das technisch durch. Eine Bitte im Prompt reicht dafür nicht.
Dafür nutzen wir ein Denkmodell aus wenigen Bausteinen. Es ist unser Denkmodell, kein Standard und keine Norm. Als Rahmen dient unsere Seite zu KI-Governance.
Für KI Governance im Mittelstand zählt vor allem Klarheit. Jeder Agent hat einen Auftrag, eine Stufe und eine Person, die ihn stoppen darf. Das ist mit wenigen Entscheidungen erreichbar.
Jeder Agent steht auf genau einer Stufe. Höher steigt er nur mit Nachweis.
| Stufe | Der Agent | Beispiel | Wer entscheidet |
|---|---|---|---|
| 1 | schlägt vor | Formulierungsideen für eine Antwort | Mensch entscheidet alles |
| 2 | erstellt Entwürfe | Angebotsentwurf im Ordner | Mensch prüft jeden Entwurf |
| 3 | führt nach Freigabe aus | Termin anlegen, nachdem jemand bestätigt | Mensch gibt jede Aktion frei |
| 4 | führt aus, wird nachträglich kontrolliert | Belege in die richtige Ablage sortieren | Mensch prüft Protokolle und Stichproben |
| 5 | handelt selbstständig in engem Rahmen | Wiederkehrende Routine mit festen Limits | Limits und Notaus |
Wichtig ist der Nachweis. Ein Agent steigt erst dann eine Stufe höher, wenn Protokolle zeigen, dass er auf der aktuellen Stufe zuverlässig arbeitet. Ohne Beleg bleibt er, wo er ist.
Unser Denkmodell rechnet so: Wirkungsradius = Rechte x Dauer x Nicht-Rückholbarkeit.
Ein Agent mit vielen Rechten, der lange läuft und Dinge tut, die niemand zurückholen kann, hat einen großen Radius. Senken Sie einen der drei Faktoren, wird der Radius kleiner.
Die Freigabe richtet sich nach der Rückholbarkeit: Je schwerer eine Aktion rückgängig zu machen ist, desto eher gibt ein Mensch sie frei.
Ein Entwurf lässt sich verwerfen, gelesene Quellen bleiben unverändert.
Eine versendete Nachricht ist beim Empfänger und lässt sich nicht zurückholen.
Geld ist bewegt, Daten sind weg. Hier gilt die strengste Freigabe.
Besonders heikel wird es, wenn ein Agent drei Dinge zugleich hat. In unserem Denkmodell nennen wir das die gefährliche Dreierkombination.
Nehmen Sie mindestens einen der drei Bausteine weg. Ein Agent, der Postfach und Kundendaten liest, aber nichts versenden kann, ist deutlich sicherer. Mehr dazu im Artikel Datenzugriff für KI-Agenten.
Ein Prompt ist eine Bitte. Eine Berechtigung ist eine Sperre.
Geben Sie dem Agenten nur Zugriff auf die Quellen, die er für seine Aufgabe braucht. Klären Sie, mit wessen Identität er auf jedes System zugreift.
Aktionen mit Außenwirkung laufen erst weiter, wenn eine benannte Person bestätigt hat. Der Schritt sitzt im System, nicht in der Anweisung.
Legen Sie Kosten, Zeit und Menge fest. Wird ein Limit erreicht, stoppt der Agent.
Probieren Sie aus, ob der Agent verbotene Dinge wirklich nicht tun kann. Vertrauen Sie nicht darauf, dass er sich an Text hält.
Damit setzen Sie KI Agenten Grenzen, die auch dann halten, wenn eine Anweisung missverstanden wird. Ein Agent ohne Löschrecht kann nichts löschen, egal was im Prompt steht.
Ein Beispiel: Ihr Serviceagent startet auf Stufe 2. Nach einer Testphase ohne Auffälligkeiten im Protokoll können Sie über Stufe 3 nachdenken.
Notieren Sie für jeden Agenten auf einer Karte: Auftrag, Stufe, verantwortliche Person, Notaus, Limits. Was nicht draufpasst, ist wahrscheinlich zu groß für den Anfang.
Die Autonomie-Treppe ist unser Denkmodell. Sie ist kein Standard, keine Norm und keine rechtliche Vorgabe. Sie ersetzt keine Prüfung Ihrer konkreten Systeme.
Ob ein Einsatz unter den EU AI Act fällt, klären Sie gesondert, keine Rechtsberatung. Nicht jeder KI-Einsatz ist Hochrisiko, aber KI im Beschäftigungskontext kann es sein (Stand 25.09.2026).
Gute Steuerung kostet Aufwand, gerade am Anfang. Dafür wissen Sie später, was Ihre Agenten tun. Welchem Ihrer Agenten würden Sie heute schon eine Stufe mehr geben, und womit könnten Sie das belegen?
Alle Angaben ohne Gewähr und keine Rechtsberatung. Preise und Bedingungen ändern sich; prüfen Sie sie vor einer Entscheidung beim Anbieter.
Legen Sie vorab fest, was ein Agent lesen, entwerfen und ausführen darf. Setzen Sie diese Grenzen über Rechte, Freigabeschritte und Limits technisch durch und benennen Sie eine Person, die ihn stoppen darf.
Unser Denkmodell mit fünf Stufen: Der Agent schlägt vor, erstellt Entwürfe, führt nach Freigabe aus, führt aus und wird nachträglich kontrolliert oder handelt selbstständig in engem Rahmen. Höher steigen Sie nur mit Nachweis.
Nein. Ein Prompt ist eine Anweisung, keine Sperre. Verlässlich sind technische Grenzen wie eingeschränkte Rechte, ein Freigabeschritt und Kostenlimits.
Private Daten, nicht vertrauenswürdige Inhalte wie E-Mails oder Webseiten und die Möglichkeit, nach außen zu senden. Sind alle drei vorhanden, steigt das Risiko. Nehmen Sie mindestens einen Baustein weg.
Eine benannte Person, die jeden Agenten sofort stoppen darf, ohne vorher zu fragen. Sie und eine Vertretung sollten den Weg kennen und ihn geübt haben.
Erst wenn Nachweise vorliegen, zum Beispiel saubere Protokolle über einen längeren Zeitraum, und der Rahmen eng und rückholbar ist. Für die meisten Mittelstandsanwendungen genügt Stufe 3 oder tiefer.
Wir besprechen mit Ihnen, welche Grenzen für Ihren Anwendungsfall sinnvoll sind. Das Erstgespräch ist unverbindlich und kostenfrei.