Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Bundestag beschließt Unternehmensbasisregister

    Bundestag beschließt Unternehmensbasisregister

    Unternehmen sind in Deutschland in unterschiedlichen Registern erfasst, zwischen denen Daten selten oder gar nicht ausgetauscht werden. Mit dem nun beschlossenen Basisregister müssen Unternehmen ihre Daten künftig nur noch einmal…

    mehr lesen: Bundestag beschließt Unternehmensbasisregister

  • BSI eröffnet Stützpunkt in Saarbrücken

    BSI eröffnet Stützpunkt in Saarbrücken

    Am neuen BSI-Stützpunkt in Saarbrücken will das Bundesamt für Sicherheit in der Informationstechnik gemeinsam mit anderen Forschungseinrichtung seine Arbeit im Bereich künstliche Intelligenz ausbauen.

    mehr lesen: BSI eröffnet Stützpunkt in Saarbrücken

  • Kaspersky schickt Führungskräfte in virtuelles Kraftwerk

    Kaspersky schickt Führungskräfte in virtuelles Kraftwerk

    Mit einer VR-Version seines Simulationsspiels Interactive Protection Simulation will Kaspersky Führungskräften Knowhow darüber vermitteln, welchen Einfluss Entscheidungen auf die Cybersicherheit haben können.

    mehr lesen: Kaspersky schickt Führungskräfte in virtuelles Kraftwerk

  • Matthias Haas ist neuer Geschäftsführer bei Igel

    Matthias Haas ist neuer Geschäftsführer bei Igel

    Gemeinsam mit CEO Jed Ayres leitet CTO Matthias Haas zukünftig die Geschicke der Igel Technology GmbH.

    mehr lesen: Matthias Haas ist neuer Geschäftsführer bei Igel

  • AutoID-Märkte stehen wieder besser da

    AutoID-Märkte stehen wieder besser da

    Der Industrieverband AIM-D befragt seine Mitglieder halbjährlich nach ihrer Sicht auf die allgemeine Geschäfts- und Marktentwicklung sowie die Entwicklung der AutoID-Märkte. In der aktuellen Umfrage schlägt erneut die Pandemie zu…

    mehr lesen: AutoID-Märkte stehen wieder besser da

  • Sales-Transformation schreitet nur langsam voran

    Sales-Transformation schreitet nur langsam voran

    Trotz steigender Kundenerwartungen an ein digitales Einkaufserlebnis sind Industrieunternehmen bei der Umsetzung oft zurückhaltend. Laut einer Accenture-Studie planen nur etwa 14 Prozent der deutschen Unternehmen, ihre digitalen Vertriebsfähigkeiten innerhalb der…

    mehr lesen: Sales-Transformation schreitet nur langsam voran

  • Produktionserwartungen sinken, bleiben aber auf hohem Niveau

    Produktionserwartungen sinken, bleiben aber auf hohem Niveau

    Die Produktionserwartungen der deutschen Industrie haben sich auf hohem Niveau etwas verschlechtert. Der Indikator sank im Mai auf 27 Punkte, nach 32 im April. Das geht aus der aktuellen Konjunkturumfrage…

    mehr lesen: Produktionserwartungen sinken, bleiben aber auf hohem Niveau

  • Videoschulung für Fach- und Führungskräfte

    Videoschulung für Fach- und Führungskräfte

    Um Fach- und Führungskräften aus dem produzierenden Gewerbe eine fundierte Grundlage in Sachen künstlicher Intelligenz (KI) und maschinellem Lernen (ML) zu vermitteln, stellen die Fraunhofer Institute IOSB und ICT sowie…

    mehr lesen: Videoschulung für Fach- und Führungskräfte

  • Pandemie erhöht den Druck auf IT-Architekten

    Pandemie erhöht den Druck auf IT-Architekten

    Eine Umfrage von Couchbase, einem Plattform-Anbieter für Datenmanagement, zeigt, dass IT-Architekten während der Corona-Pandemie mehr als dreimal so stark unter Druck stehen wie vorher. Die Ursachen dafür liegen laut Studie…

    mehr lesen: Pandemie erhöht den Druck auf IT-Architekten

  • Neue Partner für das MIP-Ökosystem

    Neue Partner für das MIP-Ökosystem

    Das MIP-Ökosystem von MPDV wächst. Der MES-Anbieter begrüßte in den vergangenen Monaten fünf neue Partner, die u.a. auf künstliche Intelligenz (KI) setzen.

    mehr lesen: Neue Partner für das MIP-Ökosystem

  • Druckbolzen in Stanzerei-Großwerkzeugen

    Druckbolzen in Stanzerei-Großwerkzeugen

    Die im Mai 2021 herausgegebene Richtlinie VDI 3002 ‚Druckbolzen in Stanzerei-Großwerkzeugen‘ liefert Empfehlungen zur Verwendung und Ausführung von Druckbolzen zur Kraftübertragung in Stanzerei-Großwerkzeugen.

    mehr lesen: Druckbolzen in Stanzerei-Großwerkzeugen

  • Hilfestellung für das Anlagen-Engineering

    Hilfestellung für das Anlagen-Engineering

    Die Richtlinienreihe VDI/VDE 3695 ‚Engineering von Anlagen – Evaluieren und Optimieren des Engineerings‘ dient als Hilfestellung für Engineering-Organisationen und unterstützt sie dabei, Maßnahmen zur Weiterentwicklung zu identifizieren und auszuwählen. Die…

    mehr lesen: Hilfestellung für das Anlagen-Engineering