Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Transition Technologies PSC eröffnet deutsche Niederlassung

    Transition Technologies PSC eröffnet deutsche Niederlassung

    Transition Technologies PSC eröffnet als Spezialist im Bereich der digitalen Transformation einen Firmensitz in Deutschland. Die Leitung übernimmt Stefan Zeiler.

    mehr lesen: Transition Technologies PSC eröffnet deutsche Niederlassung

  • Karten spielen und Werkzeug- und Formenbau lernen

    Karten spielen und Werkzeug- und Formenbau lernen

    Studierende und Auszubildende im Bereich Werkzeug- und Formenbau lernen mit einem Kartenspiel spielerisch die Grundlagen ihres Fachs.

    mehr lesen: Karten spielen und Werkzeug- und Formenbau lernen

  • Partnerschaft zwischen Senseye und PTC

    Partnerschaft zwischen Senseye und PTC

    Im Zuge einer Partnerschaft zwischen Senseye und PTC soll die Predictive Maintenance-Lösung von Senseye über die PTC IIoT-Plattform ThingWorx zur Verfügung stehen.

    mehr lesen: Partnerschaft zwischen Senseye und PTC

  • Manipulation durch Microsoft-signierte Malware

    Manipulation durch Microsoft-signierte Malware

    Eine als Netzwerktreiber getarnte Schadesoftware ermöglicht Hackern die Manipulation des Datenverkehrs. Dabei trägt die Schadsoftware ein gültiges Microsoft-Zertifikat.

    mehr lesen: Manipulation durch Microsoft-signierte Malware

  • Datenerfassung über die Stromzufuhr

    Datenerfassung über die Stromzufuhr

    Ein Forschungsteam vom Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA hat ein Monitoringsystem für den niederschwelligen Einstieg in die digitale Produktion entwickelt. Damit können alten Bestandsmaschinen Daten entlockt werden. IT-Fachkenntnisse und…

    mehr lesen: Datenerfassung über die Stromzufuhr

  • Exportbetriebe nicht stärker von der Pandemie betroffen

    Exportbetriebe nicht stärker von der Pandemie betroffen

    Knapp die Hälfte der exportierenden privatwirtschaftlichen Betriebe in Deutschland hat seit Beginn der Pandemie einen Rückgang ihrer Ausfuhren verzeichnet. Dennoch schätzen exportierende Betriebe im Schnitt ihre Geschäftslage nicht stärker negativ…

    mehr lesen: Exportbetriebe nicht stärker von der Pandemie betroffen

  • Cybercrime in Deutschland

    Cybercrime in Deutschland

    Schon seit Jahren ist zu beobachten, dass die Bedrohung durch Cyberkriminelle kontinuierlich zunimmt. Allein im Vorjahr wurden nach Angaben des Bundeskriminalamts (BKA) fast 110.000 Cyberattacken in Deutschland registriert. Das sind…

    mehr lesen: Cybercrime in Deutschland

  • Schutz von Industrieunternehmen

    Schutz von Industrieunternehmen

    Industrielle Netzwerke sind äußerst unterschiedlich. Entsprechend benötigen Unternehmen effektive Cybersicherheitslösungen, die sich auf die individuellen Anforderungen abstimmen lassen und sich mit ihren Zielen weiterentwickeln können, ohne ihre Infrastruktur oder ihr…

    mehr lesen: Schutz von Industrieunternehmen

  • Peter Schmidt wird Chief Revenue Officer bei iPoint

    Peter Schmidt wird Chief Revenue Officer bei iPoint

    Compliance-Software-Pionier Peter Schmidt wird Chief Revenue Officer bei iPoint Auf der neu geschaffenen Position des Chief Revenue Officer soll Peter Schmidt das internationale Geschäft bei iPoint-Systems voranbringen. Der strategischen Neuausrichtung…

    mehr lesen: Peter Schmidt wird Chief Revenue Officer bei iPoint

  • IT-Dienstleister steigern Umsatz

    IT-Dienstleister steigern Umsatz

    Das Marktforschungsunternehmen Lünendonk & Hossenfelder hat im Rahmen der Studie ’Der Markt für IT-Beratung und IT-Services in Deutschland’ 83 IT-Dienstleister in Deutschland analysiert. Demnach konnten 65 Prozent von ihnen ihren…

    mehr lesen: IT-Dienstleister steigern Umsatz

  • Neuer Bedrohungsakteur PuzzleMaker

    Neuer Bedrohungsakteur PuzzleMaker

    Bereits im April entdeckten Kaspersky-Experten eine Reihe extrem zielgerichteter Cyberattacken gegen mehrere Unternehmen, die zuvor unentdeckte Google-Chrome- und Microsoft-Windows-Zero-Day-Exploits nutzten.

    mehr lesen: Neuer Bedrohungsakteur PuzzleMaker

  • Dan Smoot wird CEO bei Riverbed

    Dan Smoot wird CEO bei Riverbed

    Riverbed ernennt Dan Smoot zum President und CEO und will damit die nächste Wachstumsphase vorantreiben.

    mehr lesen: Dan Smoot wird CEO bei Riverbed