Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • MainDays 2024 in Berlin

    MainDays 2024 in Berlin

    Auf den MainDays treffen sich am 12. und 13. März Verantwortliche aus Instandhaltung und technischem Service, um Trends und Herausforderungen zu diskutieren und Transformationsprojekte vorzustellen.

    mehr lesen: MainDays 2024 in Berlin

  • Pal2Rec forscht an sensorbasierter Aktivitätserkennung

    Pal2Rec forscht an sensorbasierter Aktivitätserkennung

    Als Ladungsträger bewegen Paletten Dinge von A nach B. Das im Februar 2024 gestartete Projekt ’Pal2Rec’ untersucht nun, wie sich (Euro-)Paletten eigenständig in logistische Prozesse mittels sensorbasierter Aktivitätserkennung einbeziehen lassen.

    mehr lesen: Pal2Rec forscht an sensorbasierter Aktivitätserkennung

  • Bessere CO2-Bilanz durch additiv gefertigte Komponenten

    Bessere CO2-Bilanz durch additiv gefertigte Komponenten

    Der Autobau kann mit maßgeschneiderten Komponenten die CO2-Bilanz von Werkzeugen und Maschinen verbessern und mit einbaufertigen Komponenten, sogenannten ’Engineered Products’, Leistungssteigerungen bei den Materialeigenschaften erzielen. Das zeigt eine Fallstudie in…

    mehr lesen: Bessere CO2-Bilanz durch additiv gefertigte Komponenten

  • Emissionen von künstlicher Intelligenz beziffern

    Emissionen von künstlicher Intelligenz beziffern

    Auch künstliche Intelligenz verbraucht Ressourcen. Forschende des Instituts für ökologische Wirtschaftsforschung, AlgorithmWatch und des DAI-Labors der TU Berlin fordern daher, die Nachhaltigkeitsauswirkungen von KI über den gesamten Lebenszyklus hinweg stärker…

    mehr lesen: Emissionen von künstlicher Intelligenz beziffern

  • Was Anwender von KI-Anbietern erwarten

    Was Anwender von KI-Anbietern erwarten

    Welche Voraussetzungen müssen erfüllt sein, damit Anwender KI-Anbietern vertrauen können und deren KI-Lösung nutzen? Diese Frage steht im Mittelpunkt des Forschungsprojektes ‘TrustKI’, das Anfang 2023 am Institut für Internet-Sicherheit –…

    mehr lesen: Was Anwender von KI-Anbietern erwarten

  • Materialengpässe in der Industrie weiter rückläufig

    Materialengpässe in der Industrie weiter rückläufig

    12,5 Prozent der Industrieunternehmen klagen nach wie vor über Materialengpässe. Nach Angaben des Ifo Instituts ging der Wert im Vergleich zum Vormonat jedoch erneut zurück.

    mehr lesen: Materialengpässe in der Industrie weiter rückläufig

  • DMG Mori baut Standort München zur Europazentrale aus

    DMG Mori baut Standort München zur Europazentrale aus

    München wird zur Europazentrale von DMG Mori. Der Werkzeugmaschinenhersteller errichtet dort das Business-Quartier ‚Go Four It‘ und mietet zusätzlich Gebäudeflächen.

    mehr lesen: DMG Mori baut Standort München zur Europazentrale aus

  • Xplanis gründet deutsche Tochtergesellschaft

    Xplanis gründet deutsche Tochtergesellschaft

    Xplanis, ein Spezialist für Transport Management Software, steigt in den deutschen Markt ein. Die Geschäftsführung der Xplanis Deutschland GmbH übernimmt Volker Möller.

    mehr lesen: Xplanis gründet deutsche Tochtergesellschaft

  • Mesago zieht positive SPS-Bilanz

    Mesago zieht positive SPS-Bilanz

    In ihrer Messeanalyse zieht die Mesago Messe Frankfurt ein positives Fazit der SPS in Nürnberg. Demnach erfuhr die Veranstaltung großen Zuspruch seitens Ausstellern und Fachbesuchern.

    mehr lesen: Mesago zieht positive SPS-Bilanz

  • WIIT übernimmt Teil von German Edge Cloud

    WIIT übernimmt Teil von German Edge Cloud

    Die WIIT, ein Cloud Computing-Anbieter aus Italien, hat über die deutsche Tochtergesellschaft WIIT AG einen Vertrag zum Erwerb des Geschäftsbereichs Edge & Cloud der zur Friedhelm Loh Group gehörenden German…

    mehr lesen: WIIT übernimmt Teil von German Edge Cloud

  • Aufatmen in der deutschen Automobilindustrie

    Aufatmen in der deutschen Automobilindustrie

    Im Januar hat sich die Stimmung der deutschen Autobauer verbessert. Trotz einiger positiver Signale, gibt das Ifo Institut jedoch noch keine Entwarnung. Unter anderem bereiten Auftragslage und der Fachkräftemangel sorgen.

    mehr lesen: Aufatmen in der deutschen Automobilindustrie

  • Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

    Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

    Am 21. Februar 2024 starten die Maintenance als Messe für die industrielle Instandhaltung und die Pumps&Valves als Fachmesse für industrielle Pumpen, Armaturen und Ventile. Auf die Fachbesucher warten rund 240…

    mehr lesen: Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus