Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Dualis nimmt Arbeit im neuen Hauptsitz auf

    Dualis nimmt Arbeit im neuen Hauptsitz auf

    Dualis hat den neuen Hauptsitz des Unternehmens in Dresden bezogen. Der reguläre Arbeitsbetrieb begann am 19. Juli.

    mehr lesen: Dualis nimmt Arbeit im neuen Hauptsitz auf

  • Störungen in der Lieferkette vermeiden

    Störungen in der Lieferkette vermeiden

    Störungen in der Lieferkette können schnell zu Problemen führen. Jaggaer hat vier Tipps zusammengestellt, wie Unternehmen Schwachstellen in der eigenen Lieferkette identifizieren können.

    mehr lesen: Störungen in der Lieferkette vermeiden

  • Smarte und nachhaltige Becherproduktion im KI-Reallabor

    Smarte und nachhaltige Becherproduktion im KI-Reallabor

    Das Potenzial künstlicher Intelligenz nutzen war das Ziel : Dieses Ziel hat sich eine Kooperative aus zehn Partnern gesetzt, initiiert vom Fraunhofer IOSB-INA. Die Basis dafür sollen Daten aus einem…

    mehr lesen: Smarte und nachhaltige Becherproduktion im KI-Reallabor

  • Richtlinienreihe für Anlagen-Entwickler nimmt Prozesse in den Blick

    Richtlinienreihe für Anlagen-Entwickler nimmt Prozesse in den Blick

    Die Richtlinienreihe VDI/VDE 3695 ‚Engineering von Anlagen – Evaluieren und Optimieren des Engineerings‘ wird aktuell überarbeitet und insbesondere an I4.0-Vorgaben angepasst. Jetzt ist Blatt 2 erschienen, das auf die Prozesse…

    mehr lesen: Richtlinienreihe für Anlagen-Entwickler nimmt Prozesse in den Blick

  • KI-Standort Deutschland mit Nachholbedarf

    KI-Standort Deutschland mit Nachholbedarf

    Eine leistungsfähigere IT-Infrastruktur und staatliche Förderangebote könnten mehr Unternehmen dazu bewegen, KI-Anwendungen einzusetzen, so eine Studie des ZEW Mannheim im Auftrag des Bundeswirtschaftsministeriums (BMWi). Für den KI-Standort Deutschland sehen die…

    mehr lesen: KI-Standort Deutschland mit Nachholbedarf

  • Umsatzerwartungen der Maschinenbauer auf Rekordhoch

    Umsatzerwartungen der Maschinenbauer auf Rekordhoch

    Der deutsche Maschinen- und Anlagenbau ist im Großen und Ganzen positiver Stimmung. Die überwiegende Mehrheit der für das PWC-Maschinenbaubarometer befragten Entscheider (70 Prozent) blickt optimistisch auf die Entwicklung der deutschen…

    mehr lesen: Umsatzerwartungen der Maschinenbauer auf Rekordhoch

  • VDMA gründet Gremium zu Blockchain

    VDMA gründet Gremium zu Blockchain

    Am 8. Juli 2021 trafen sich neun Unternehmensvertreterinnen und -vertreter zum Austausch über den Einsatz von Blockchain in der Industrie. Im Mittelpunkt des neuen Gremiums steht die Vertiefung zu Anwendungsmöglichkeiten…

    mehr lesen: VDMA gründet Gremium zu Blockchain

  • Kommissionierroboter intelligenter machen

    Kommissionierroboter intelligenter machen

    Wo Güter hergestellt, gelagert, sortiert oder verpackt werden, wird auch kommissioniert: einzelne Waren werden Kisten oder Kartons entnommen und neu zusammengestellt. Im Rahmen des Forschungsprojekts Flairop wird daran gearbeitet, Kommissionierroboter…

    mehr lesen: Kommissionierroboter intelligenter machen

  • Produktionserwartungen steigen leicht

    Produktionserwartungen steigen leicht

    In der aktuellen Konjunkturumfrage des Ifo Instituts legen die Juni-Produktionserwartungen im Verarbeitenden Gewerbe zu – allerdings nur um einen Punkt im Vergleich zum Mai.

    mehr lesen: Produktionserwartungen steigen leicht

  • Neuer CEO bei EfficientIP

    Neuer CEO bei EfficientIP

    Norman Girard ist neuer CEO von EfficientIP und tritt die Nachfolge von David Williamson an, der sich in den Ruhestand verabschiedet.

    mehr lesen: Neuer CEO bei EfficientIP

  • Mehr als 5.000 Infektionsversuche durch Revil

    Mehr als 5.000 Infektionsversuche durch Revil

    Durch einen Angriff der Ransomware-Gruppe Revil musste u.a. eine schwedische Supermarktkette vorübergehend mehr als 800 Filialen schließen. Laut einer Analyse des Softwareanbieters Kaspersky gab es weltweit mehr als 5.000 Infektionsversuche…

    mehr lesen: Mehr als 5.000 Infektionsversuche durch Revil

  • CO2 als Rohstoff in industriellen Kreisläufen

    CO2 als Rohstoff in industriellen Kreisläufen

    Treibhausgas-Emissionen zu reduzieren ist eine große Herausforderung. Bei den anthropogenen Treibhausgasemissionen gehört CO2 aus der Verbrennung von fossilen Brennstoffen sowie aus industriellen Prozessen zu den Hauptverursachern des Treibhauseffekts. Auf der…

    mehr lesen: CO2 als Rohstoff in industriellen Kreisläufen