KI-Agenten können handeln. Wer setzt die Grenzen?

Stellen Sie sich vor, Sie beauftragen einen KI-Agenten, Anbieter für ein neues Projekt zu vergleichen. Er sucht Angebote, prüft sie anhand Ihrer Kriterien und erstellt eine Empfehlung.

Darf er danach die Anbieter kontaktieren? Ihr internes Budget weitergeben? Ein Angebot annehmen? Mit jedem Schritt geht er von der Analyse zu einer Handlung über, die Ihr Unternehmen binden könnte.

Ein Agent kann planen, Werkzeuge nutzen, Ergebnisse prüfen und seine Arbeit fortsetzen. Das macht ihn nützlich. Deshalb reicht eine Anweisung wie „Finde den besten Anbieter“ aber nicht aus.

Eine Aufgabe ist noch kein Mandat

Bevor Sie die Arbeit übertragen, legen Sie das gewünschte Ergebnis fest: nach welchen Kriterien, mit welchen Daten und Werkzeugen? Welche Entscheidungen darf der Agent allein treffen?

Die Absicht bleibt beim Menschen. Der Agent erhält ein Ziel und einen Handlungsspielraum. Dieser Spielraum muss bewusst festgelegt werden. Er sollte sich nicht einfach aus den technischen Zugriffsrechten ergeben.

Wenn die Arbeitsschritte im Voraus feststehen, genügt möglicherweise eine einfache Automatisierung. Autonomie sollte einen konkreten Zweck erfüllen, denn sie kann auch Kosten und Fehler verursachen.

Haltepunkte festlegen

Ein Agent kann Optionen prüfen und eine Entscheidung vorbereiten, ohne für jeden Schritt eine Freigabe einzuholen. Manche Schritte verändern jedoch die Tragweite seines Handelns: Dritte kontaktieren, sensible Informationen weitergeben, Ausgaben auslösen oder ein wichtiges System verändern.

Hier muss die Führung festlegen, wer was genehmigt. Ein Haltepunkt ist sinnvoll, wenn er eine wichtige Entscheidung oder Verpflichtung absichert. An anderer Stelle kann er die Arbeit unnötig bremsen.

Prüfen, was die Autonomie bewirkt

Ein Mandat braucht auch Grenzen für Zeit, Handlungsschritte und Kosten. Außerdem muss sichtbar sein, was der Agent getan hat, und es muss möglich sein, ihn zu stoppen. Sonst kann eine Folge plausibler Teilschritte weiterlaufen, obwohl sie dem ursprünglichen Ziel längst nicht mehr dient.

Die Zahl erledigter Aufgaben oder die Höhe der Ausgaben zeigt noch nicht, ob der Agent Wert geschaffen hat. Entscheidend sind die Qualität des Ergebnisses, vermiedene Risiken und die Frage, was Menschen dadurch besser entscheiden oder erreichen können.

Die Führungsentscheidung

Bevor Sie einen Agenten in einem wichtigen Prozess einsetzen, stellen Sie drei Fragen:

• Welches Ergebnis erwarten wir, und wie weit darf der Agent selbstständig handeln?
• Welche Handlungen brauchen vor der Ausführung eine menschliche Freigabe?
• Woran erkennen wir, dass wir ihn stoppen, korrigieren oder sein Mandat erweitern sollten?

Die Autonomie eines Agenten ist nicht nur eine technische Entscheidung. Sie bedeutet, Entscheidungsbefugnisse bewusst zu übertragen.

Die Absicht liegt bei der Führung. Der Agent erhält ein Mandat.