Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Kuka gründet neues Segment für Software- und Digitalgeschäft

    Kuka gründet neues Segment für Software- und Digitalgeschäft

    Kuka hat einen neuen Geschäftsbereich gegründet. Mit Kuka Digital will der Robotik- und Automatisierungsspezialist aus Augsburg sein Software- und Digitalgeschäft erweitern.

    mehr lesen: Kuka gründet neues Segment für Software- und Digitalgeschäft

  • Zu viele Fernzugriffs-Tools machen OT-Umgebungen angreifbar

    Zu viele Fernzugriffs-Tools machen OT-Umgebungen angreifbar

    55 Prozent der Unternehmen setzen in ihren OT-Umgebungen vier oder mehr Remote-Access-Tools ein, 33 Prozent sogar mindestens sechs.

    mehr lesen: Zu viele Fernzugriffs-Tools machen OT-Umgebungen angreifbar

  • Fraunhofer-Forschende entwickeln Robotersystem zur Qualitätssicherung im 3D-Druck

    Fraunhofer-Forschende entwickeln Robotersystem zur Qualitätssicherung im 3D-Druck

    Können 3D-gedruckte Bauteile in der Luftfahrt eingesetzt werden? Im Projekt Enabl3D entwickeln Forschende nun eine ausreichende Qualitätssicherung für diesen Zweck.

    mehr lesen: Fraunhofer-Forschende entwickeln Robotersystem zur Qualitätssicherung im 3D-Druck

  • Event-Doppelpack zu KI, Daten und Quantencomputing

    Event-Doppelpack zu KI, Daten und Quantencomputing

    Am 25. und 26. September 2024 finden im Kosmos Berlin der AI & Data Summit und der Quantum Summit des Bitkom statt. Im Fokus der Veranstaltungen stehen Anwendungsfälle rund um…

    mehr lesen: Event-Doppelpack zu KI, Daten und Quantencomputing

  • VDMA-Umfrage zu Forschung im Maschinenbau

    VDMA-Umfrage zu Forschung im Maschinenbau

    Wie und wo forscht und entwickelt der deutsche Maschinenbau? Dazu hat der Branchenverband VDMA 400 Firmen befragt. Demnach ist das Innovationstempo hoch und soll weiter steigen. Auch wenn die Unternehmen…

    mehr lesen: VDMA-Umfrage zu Forschung im Maschinenbau

  • Industrieleistung bricht um zwei Prozent ein

    Industrieleistung bricht um zwei Prozent ein

    Deutschlands Wirtschaft könnte 2024 auf der Stelle treten. Nach aktuellen Berechnungen korrigiert das Ifo-Institut das voraussichtliche Wirtschaftswachstum von 0,4 auf null Prozent, die Industrie schrumpft sogar um zwei Prozent. Dafür…

    mehr lesen: Industrieleistung bricht um zwei Prozent ein

  • Maximilian Köpke wird COO/CFO bei Convista

    Maximilian Köpke wird COO/CFO bei Convista

    Das Beratungshaus Convista hat Maximilian Köpke in einer Doppelrolle als COO und CFO ins Boot geholt. Zuvor war der Manager als Partner bei der Boston Consulting Group angestellt.

    mehr lesen: Maximilian Köpke wird COO/CFO bei Convista

  • Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

    Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

    Auf der diesjährigen Fakuma, internationale Fachmesse für Kunststoffverarbeitung, vom 15. bis 19. Oktober 2024 wird es neben der Ausstellung auch ein breites Rahmenprogramm geben. Erstmals wird etwa der Karriere-Freitag Teil…

    mehr lesen: Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

  • Sebastian Spicker wird Managing Director DACH bei IFS

    Sebastian Spicker wird Managing Director DACH bei IFS

    Sebastian Spicker hat die Position des Managing Director DACH bei IFS übernommen.

    mehr lesen: Sebastian Spicker wird Managing Director DACH bei IFS

  • IFS kauft Copperleaf Technologies

    IFS kauft Copperleaf Technologies

    Der schwedische Anbieter von Business-Software IFS kauft Copperleaf Technologies. Das kanadische Unternehmen bietet Analytics-Software etwa für die Investitionsplanung und soll rund eine Milliarde kanadische Dollar kosten, rund 670 Millionen Euro.

    mehr lesen: IFS kauft Copperleaf Technologies

  • Wie steht es um KI und IoT bei unseren Nachbarn?

    Wie steht es um KI und IoT bei unseren Nachbarn?

    Wie etabliert sind Robotik, KI, ML, Big Data und IoT in den europäischen Ländern? Und wie schneidet Deutschland im Vergleich ab? Das hat Reichelt Elektronik Menschen in Deutschland, Frankreich, Italien…

    mehr lesen: Wie steht es um KI und IoT bei unseren Nachbarn?

  • Tech-Festival für Co-Creation in der Automatisierung

    Tech-Festival für Co-Creation in der Automatisierung

    Die vernetzte Fabrik, Datenräume und Automatisierung sind nur einige der Themen, die am 6. November in der Gläsernen Manufaktur Dresden im Mittelpunkt stehen. Für das Event Hub:Disrupt organisieren die Veranstalter…

    mehr lesen: Tech-Festival für Co-Creation in der Automatisierung