Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

    Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

    Die Branchenverbände IBU, IMU, DSV und VDFI sehen in einem gemeinsam veröffentlichten Brandbrief den „Standort Deutschland gefährdet“. Die Lieferkette der Automobilindustrie stehe vor dem Kollaps, heißt es darin.

    mehr lesen: Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

  • Interaktion zwischen Mensch und KI verbessern

    Interaktion zwischen Mensch und KI verbessern

    Im Forschungsprojekt ’GeMeKI’ entwickelt das Fraunhofer-Institut für Produktiontsechnologie IPT aus Aachen gemeinsam mit elf Partnern drei KI-gestützte Assistenzsysteme für das Fügen, Trennen und Umformen, die komplexes menschliches Expertenwissen in ihre…

    mehr lesen: Interaktion zwischen Mensch und KI verbessern

  • ZEW-Konjunkturerwartungen gehen erneut zurück

    ZEW-Konjunkturerwartungen gehen erneut zurück

    Mit einem Rückgang um 4,2 Punkte verzeichnet die ZEW-Konjunkturumfrage im Oktober den fünften Rückgang in Folge. Erstmals seit Februar verschlechtert sich auch die Einschätzung der aktuellen konjunkturellen Lage.

    mehr lesen: ZEW-Konjunkturerwartungen gehen erneut zurück

  • Onoff eröffnet neuen Standort

    Onoff eröffnet neuen Standort

    Die Onoff AG eröffnet einen Standort in Erlangen und will damit zukünftig auch den Bereich digitales Engineering mit Echtzeitsimulation bedienen.

    mehr lesen: Onoff eröffnet neuen Standort

  • PWC-Studie ‚Digital Trust Insights 2022‘

    PWC-Studie ‚Digital Trust Insights 2022‘

    Vier von fünf IT-Führungskräften in Deutschland sehen die Komplexität in ihren Unternehmen laut einer PWC-Studie auf einem zu hohen Level. Dies führe wiederum zu Risiken für die Bereiche Cybersicherheit und…

    mehr lesen: PWC-Studie ‚Digital Trust Insights 2022‘

  • Mobile Luftreinigungsgeräte auf Wirksamkeit prüfen

    Mobile Luftreinigungsgeräte auf Wirksamkeit prüfen

    Im September ist die Richtlinie VDI-EE 4300 Blatt 14 ‚Messen von Innenraumluftverunreinigungen – Anforderungen an mobile Luftreiniger zur Reduktion der aerosolgebundenen Übertragung von Infektionskrankheiten‘ erschienen.

    mehr lesen: Mobile Luftreinigungsgeräte auf Wirksamkeit prüfen

  • FontOnLake attackiert Linux-Systeme

    FontOnLake attackiert Linux-Systeme

    ESET-Forscher sind einer Malware-Familie auf die Schliche gekommen, die es gezielt auf Linux-Betriebssysteme abgesehen hat.

    mehr lesen: FontOnLake attackiert Linux-Systeme

  • Großes Wiedersehen auf der It-sa 2021

    Großes Wiedersehen auf der It-sa 2021

    Die It-sa 2021, Treffpunkt für IT-Sicherheitsexperten und -entscheider, wurde von 274 Ausstellern aus 18 Ländern und rund 5.200 Fachbesuchern aus 28 Ländern wieder nach dem Corona bedingten Aussetzen im vergangenen…

    mehr lesen: Großes Wiedersehen auf der It-sa 2021

  • Die Lieferkette im Visier von Hackern

    Die Lieferkette im Visier von Hackern

    Die Allianz geht davon aus, dass sich Ransomware-Angriffe vermehrt gegen Lieferketten richten könnten. Der Versicherer sieht dabei hauptsächlich IT-Dienstleister im Visier von Hackern. Und auch die Höhe der Lösegeldforderungen steigt.

    mehr lesen: Die Lieferkette im Visier von Hackern

  • Oliver Gronau wird CCO bei Auvesy

    Oliver Gronau wird CCO bei Auvesy

    Mit Oliver Gronau als CCO stößt ein weiteres Mitglied zum Management-Team des Datenmanagement-Spezialisten Auvesy, das zukünftig aus Tim Weckerle (CEO), Stefan Jesse (COO) und Oliver Gronau in der neugeschaffenen Position…

    mehr lesen: Oliver Gronau wird CCO bei Auvesy

  • Wie Projektingenieure mit Entwicklungspartnern kooperieren

    Wie Projektingenieure mit Entwicklungspartnern kooperieren

    Die Richtlinie VDI-MT 6602 Blatt 2 ‚Projektingenieur in Projekten mit Entwicklungspartnern – Anforderungen an die Qualifizierung‘ ist Anforderungsprofil für in der Praxis tätige Ingenieure und Projektingenieure, die ihre Fähigkeiten für…

    mehr lesen: Wie Projektingenieure mit Entwicklungspartnern kooperieren

  • IT-Sicherheitsmarkt vor Umsatzrekord

    IT-Sicherheitsmarkt vor Umsatzrekord

    Der Markt für IT-Sicherheit in Deutschland wächst ungebrochen. Das bisherige Rekordjahr 2020 könnte in diesem Jahr nochmals übertroffen werden. So geht der Digitalverband Bitkom von einem Plus von 9,7 Prozent…

    mehr lesen: IT-Sicherheitsmarkt vor Umsatzrekord