Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Aus Innovation.rocks und Augmentaio wird Svarmony

    Aus Innovation.rocks und Augmentaio wird Svarmony

    Die beiden Unternehmen Innovation.rocks und Augmentaio wollen fusionieren und zukünftig gemeinsam als AR-Spezialist Svarmony am Markt auftreten.

    mehr lesen: Aus Innovation.rocks und Augmentaio wird Svarmony

  • 5G-Ortungslösung für die Industrie

    5G-Ortungslösung für die Industrie

    Im Rahmen einer Partnerschaft haben die Telekom und Trumpf eine Ortungslösung entwickelt, die in einem 5G-Campusnetz betrieben werden kann. Durch den Omlox-Standard lassen sich unterschiedliche Endgeräte miteinander kombinieren.

    mehr lesen: 5G-Ortungslösung für die Industrie

  • Mit Low-Code gegen den Entwicklungsstau

    Mit Low-Code gegen den Entwicklungsstau

    Die Pandemie hat die Digitalisierung beschleunigt, aber auch zu einem zunehmendem Software-Entwicklungsstau geführt, so eine Studie von Mendix. Ein Low-Code-Ansatz kann helfen den damit einhergehenden Problemen zu begegnen.

    mehr lesen: Mit Low-Code gegen den Entwicklungsstau

  • Jochen Weyrauch folgt auf Ralf Dieter

    Jochen Weyrauch folgt auf Ralf Dieter

    Seit 2006 ist Ralf W. Dieter Vorstandsvorsitzender der Dürr AG. Zum Jahresende wird er sein Amt zur Verfügung stellen. Seine Nachfolge tritt Jochen Weyrauch an.

    mehr lesen: Jochen Weyrauch folgt auf Ralf Dieter

  • Zugang zur Formnext nur für Geimpfte und Genesene

    Zugang zur Formnext nur für Geimpfte und Genesene

    Im November findet die 3D-Druck-Messe Formnext in Frankfurt statt. Wie der Veranstalter nun bekanntgegeben hat, kommt dabei die 2G-Regel zum tragen.

    mehr lesen: Zugang zur Formnext nur für Geimpfte und Genesene

  • Lieferengpässe drücken die Stimmung der Automobilindustrie

    Lieferengpässe drücken die Stimmung der Automobilindustrie

    Die Engpässe bei Vorprodukten wirken sich derzeit quasi auf alle Teile der Industrie aus. Besonders davon betroffen ist allerdings die Automobilindustrie, was sich auch in aktuellen Zahlen des Ifo Instituts…

    mehr lesen: Lieferengpässe drücken die Stimmung der Automobilindustrie

  • Datenwirtschaft und KI als Chance begreifen

    Datenwirtschaft und KI als Chance begreifen

    Laut einer ZVEI-Umfrage fühlen sich die Unternehmen der Elektronikbranche eingeschränkt, wenn es um die Nutzung von Daten geht, auch aufgrund von Rechtsunsicherheiten bezüglich der DSGVO.

    mehr lesen: Datenwirtschaft und KI als Chance begreifen

  • Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

    Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

    Nach einer Analyse des Technologie-Dienstleisters NTT haben Ransomware-Attacken ein neues Rekordniveau erreicht: Bis zum Jahresende müssen sich Unternehmen alle elf Sekunden auf einen Angriff mit Erpresser-Schadsoftware einstellen. Dabei nutzen Cyberkriminelle…

    mehr lesen: Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

  • Weg ins Firmennetzwerk oft schlecht gesichert

    Weg ins Firmennetzwerk oft schlecht gesichert

    In Deutschland nutzen die Menschen laut einer G Data-Erhebung zu selten sichere Passwörter, Antiviren-Programme oder Zwei-Faktor-Authentifizierung. Damit steigt das Risiko im beruflichen und auch im privaten Bereich.

    mehr lesen: Weg ins Firmennetzwerk oft schlecht gesichert

  • Spatenstich für Neubau des Fraunhofer IPA

    Spatenstich für Neubau des Fraunhofer IPA

    In dieser Woche erfolgte der Spatenstich für den Neubau des Fraunhofer Instituts für Produktionstechnik und Automatisierung. Das Investitionsvolumen beträgt rund 37Mio.€.

    mehr lesen: Spatenstich für Neubau des Fraunhofer IPA

  • Peter Schneck wird Cenit-CEO

    Peter Schneck wird Cenit-CEO

    Peter Schneck wird Mitglied des Vorstands bei der Cenit AG und übernimmt zum 1. Januar 2022 die Position des CEO. Er folgt auf Kurt Bengel der das Unternehmen plangemäß zum…

    mehr lesen: Peter Schneck wird Cenit-CEO

  • Rekordjahr für Investitionen in Quantentechnologien

    Rekordjahr für Investitionen in Quantentechnologien

    Der McKinsey ‘Quantum Technology Monitor’ zeigt eine Zunahme der globalen Markt – und Technologieentwicklungen von Quantentechnologien. Dabei sind die angekündigten Investitionen im laufenden Jahr dreimal so hoch wie in 2020.

    mehr lesen: Rekordjahr für Investitionen in Quantentechnologien