Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Stehen humanoide Roboter bald am Fließband?

    Stehen humanoide Roboter bald am Fließband?

    Humanoide Roboter könnten ab 2025 serienreif sein. Das prognostiziert die Managementberatung Horváth und geht weiter davon aus, dass sich mit diesen Robotern mehr als 50 Prozent der manuellen Tätigkeiten automatisieren…

    mehr lesen: Stehen humanoide Roboter bald am Fließband?

  • Mehr Cyberangriffe, weniger Plagiatsfälle

    Mehr Cyberangriffe, weniger Plagiatsfälle

    Rund ein Viertel der Maschinen- und Anlagenbauer berichtet von signifikanten Cybersicherheitsvorfällen in den vergangenen zwei Jahren. Plagiatsfälle gingen in diesem Zeitraum hingegen zurück.

    mehr lesen: Mehr Cyberangriffe, weniger Plagiatsfälle

  • Stand der OT-Sicherheit

    Stand der OT-Sicherheit

    Ein neuer Bericht von ABI Research und Palo Alto Networks über den Stand der OT-Sicherheit hat ergeben, dass im vergangenen Jahr eines von vier Industrieunternehmen angab, seinen Betrieb aufgrund eines…

    mehr lesen: Stand der OT-Sicherheit

  • Forschungsbeirat und Plattform Industrie 4.0 bleiben bei 4.0

    Forschungsbeirat und Plattform Industrie 4.0 bleiben bei 4.0

    Im Rahmen der Hannover Messe 2024 haben der Forschungsbeirat Industrie 4.0 sowie die Plattform Industrie 4.0 Stellung zum Umgang mit dem Begriff ‚Industrie 5.0‘ genommen.

    mehr lesen: Forschungsbeirat und Plattform Industrie 4.0 bleiben bei 4.0

  • Maschinenbau rechnet nicht mit Konjunkturerholung

    Maschinenbau rechnet nicht mit Konjunkturerholung

    Besorgt blicken die Entscheidungsträger im Maschinen- und Anlagenbau auf die konjunkturelle Entwicklung in Deutschland.

    mehr lesen: Maschinenbau rechnet nicht mit Konjunkturerholung

  • Sprint zur Cyber Resilience Act-Konformität

    Sprint zur Cyber Resilience Act-Konformität

    Wie erfüllt Open Source Software die Anforderungen des europäischen Cyber Resilience Act? Auf Basis etablierter Prozesse wollen die Apache Software Foundation, die Blender Foundation, die OpenSSL Software Foundation, die PHP…

    mehr lesen: Sprint zur Cyber Resilience Act-Konformität

  • Wie KI und Mensch im Team zusammenarbeiten

    Wie KI und Mensch im Team zusammenarbeiten

    In einer neuen Expertise mit dem Titel ‘künstliche Intelligenz und industrielle Arbeit’ des Forschungsbeirats Industrie 4.0 zeigen das Fraunhofer IEM und das Fraunhofer IML Gestaltungsoptionen und Handlungsfelder auf, wie KI…

    mehr lesen: Wie KI und Mensch im Team zusammenarbeiten

  • VDMA: -7% für europäische Bildverarbeitungsindustrie

    VDMA: -7% für europäische Bildverarbeitungsindustrie

    Basierend auf den neuesten VDMA-Umfragen, verzeichnete die europäische Bildverarbeitungsindustrie 2023 einen Umsatzrückgang von 7%. Die VDMA Fachabteilung Machine Vision rechnet mit einem weiteren Umsatzrückgang von 3% für das laufende Jahr.

    mehr lesen: VDMA: -7% für europäische Bildverarbeitungsindustrie

  • Industrie noch zurückhaltend bei Manufacturing-X

    Industrie noch zurückhaltend bei Manufacturing-X

    Manufacturing-X ist vielen Unternehmen zwar ein Begriff. Allerdings haben sich bisher die meisten Industrieunternehmen noch nicht näher mit dem Datenökosystem befasst.

    mehr lesen: Industrie noch zurückhaltend bei Manufacturing-X

  • 159.000 offene Stellen in Ingenieurberufen

    159.000 offene Stellen in Ingenieurberufen

    Die Zahl der offenen Stellen in Ingenieurberufen bewegt sich im vierten Quartal 2023 weiter auf hohem Niveau. Besonders Berufsfelder mit Klimaschutz- und Digitalisierungsbezug weisen im aktuellen VDI/IW-Ingenieurmonitor eine hohe Engpasskennziffer…

    mehr lesen: 159.000 offene Stellen in Ingenieurberufen

  • Infosys übernimmt In-tech

    Infosys übernimmt In-tech

    In-Tech wird Teil von Infosys. Dies gaben die Unternehmen am Donnerstag bekannt. Der Abschluss der Übernahme wird für das zweite Quartal 2024 erwartet.

    mehr lesen: Infosys übernimmt In-tech

  • Materialverfügbarkeit nähert sich dem Vor-Corona-Niveau

    Materialverfügbarkeit nähert sich dem Vor-Corona-Niveau

    Die deutsche Industrie hat kaum noch mit Materialknappheit zu kämpfen. Laut Ifo Institut bewegt sich die Materialverfügbarkeit in Richtung Vor-Corona-Niveau.

    mehr lesen: Materialverfügbarkeit nähert sich dem Vor-Corona-Niveau