Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Industrie 4.0-Kompetenzen in der Weiterbildung

    Industrie 4.0-Kompetenzen in der Weiterbildung

    Sozialpartner aus der Metall- und Elektroindustrie setzen neue Standards für die Weiterbildung der Mitarbeiter. Diese betreffen insgesamt sieben Handlungsfelder.

    mehr lesen: Industrie 4.0-Kompetenzen in der Weiterbildung

  • Mercedes ernennt Chief Software Officer

    Mercedes ernennt Chief Software Officer

    Mit MB.OS soll bei Mercedes ein eigenes Fahrzeug-Betriebssystem entstehen. Dessen Entwicklung verantwortet zukünftig Magnus Östberg, der die neu geschaffene Position des Chief Software Officers übernimmt.

    mehr lesen: Mercedes ernennt Chief Software Officer

  • IAB-Arbeitsmarktbarometer auf Rekordhoch

    IAB-Arbeitsmarktbarometer auf Rekordhoch

    Mit 107,6 Punkten hat das IAB-Arbeitsmarktbarometer im August einen neuen Rekordstand verzeichnet. Die Zeichen auf dem Arbeitsmarkt stehen damit weiter auf Erholung.

    mehr lesen: IAB-Arbeitsmarktbarometer auf Rekordhoch

  • Produktentwicklung mit Extended Reality

    Produktentwicklung mit Extended Reality

    Statt sofort teure Prototypen von Autos, Geräten oder Maschinenkomponenten zu bauen, können Unternehmen durch virtuelle Modelle bereits in sehr frühen Entwicklungsphasen feststellen, ob ein neues Produkt in Anmutung und Bedienung…

    mehr lesen: Produktentwicklung mit Extended Reality

  • Geschäftsklimaindex sinkt erneut

    Geschäftsklimaindex sinkt erneut

    Nach 100,7 Punkten im Juli, fällt der Ifo-Geschäftsklimaindex im August auf unter 100 Punkte. Zwar bewerten die Unternehmen ihre aktuelle Lage besser, sind allerdings pessimistischer in ihren Erwartungen.

    mehr lesen: Geschäftsklimaindex sinkt erneut

  • Fünf Trends für die OT-Security

    Fünf Trends für die OT-Security

    Von Kryptografie über Drohnen bis hin zum digitalen Zwillingen – Kudelski Security gibt einen Überblick über Trends in der Operational Technology (OT).

    mehr lesen: Fünf Trends für die OT-Security

  • Visualisierungssoftware unterstützt das Modbus/TCP-Protokoll

    Visualisierungssoftware unterstützt das Modbus/TCP-Protokoll

    Für einen schnellen und umfassenden Überblick über eine Anlage stellt Pilz die webbasierte Visualisierungssoftware PASvisu bereit. In der neuen Version unterstützt diese jetzt auch das Modbus/TCP-Protokoll. Dieses ermöglicht eine schnelle…

    mehr lesen: Visualisierungssoftware unterstützt das Modbus/TCP-Protokoll

  • Mehr offene Stellen im verarbeitenden Gewerbe

    Mehr offene Stellen im verarbeitenden Gewerbe

    Mit insgesamt 1,16Mio. lag die Zahl der offenen Stellen rund 3 Prozent höher als im Vorjahresquartal. Dies geht aus der aktuellen Stellenerhebung des IAB hervor.

    mehr lesen: Mehr offene Stellen im verarbeitenden Gewerbe

  • Zweistelliges Wachstum beim Maschinenexport

    Zweistelliges Wachstum beim Maschinenexport

    Die Maschinenexporte aus Deutschland haben im 2. Quartal weiter an Fahrt gewonnen: Sie stiegen im Vorjahresvergleich um 23,5 Prozent auf 44,5Mrd.€. Im 1. Quartal lagen die Ausfuhren lediglich um 0,8…

    mehr lesen: Zweistelliges Wachstum beim Maschinenexport

  • Vertrauenswürdige Elektronik für das Internet der Dinge

    Vertrauenswürdige Elektronik für das Internet der Dinge

    Zwölf Partner aus Forschung und Industrie haben das Forschungsprojekt VE-Vides gestartet. Ziel ist die Entwicklung eines Sicherheitskonzepts für das Internet der Dinge.

    mehr lesen: Vertrauenswürdige Elektronik für das Internet der Dinge

  • Martina Hofmann übernimmt Vorsitz

    Martina Hofmann übernimmt Vorsitz

    Prof. Dr.-Ing. Martina Hofmann von der Hochschule Aalen ist neue Vorsitzende des VDE-Ausschusses Studium, Beruf und Gesellschaft. Neben klassischer Ausschussarbeit will sie die Themen Frauen und Technik sowie Klimaschutz in…

    mehr lesen: Martina Hofmann übernimmt Vorsitz

  • So können sich Unternehmen schützen

    So können sich Unternehmen schützen

    Eine aktuelle Studie des Digitalverbands Bitkom bewertet Ransomware als Haupttreiber für den enormen Anstieg an Cyberattacken. Die Erpresserangriffe verursachen bei den Betroffenen einen enormen wirtschaftlichen Schaden.

    mehr lesen: So können sich Unternehmen schützen