Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Axians Deutschland richtet Struktur und Management neu aus

    Axians Deutschland richtet Struktur und Management neu aus

    Jacques Diaz, CEO von Axians Deutschland, wird das Unternehmen Ende August verlassen. Im Rahmen einer Neuausrichtung entstehen zwei neue Management-Bereiche, die mit Managern aus den eigenen Reihen besetzt werden.

    mehr lesen: Axians Deutschland richtet Struktur und Management neu aus

  • Gaia-X Hub startet Veranstaltungsreihe für den Mittelstand

    Gaia-X Hub startet Veranstaltungsreihe für den Mittelstand

    Ab Mai tourt der Gaia-X Hub Deutschland mit einer eigenen Veranstaltungsreihe für den Mittelstand quer durchs Land. Kleine und mittelgroße Unternehmen haben die Gelegenheit, sich vor Ort über Einsatz und…

    mehr lesen: Gaia-X Hub startet Veranstaltungsreihe für den Mittelstand

  • Potenziale und Grenzen KI-gesteuerter Roboter

    Potenziale und Grenzen KI-gesteuerter Roboter

    In einem neuen Webspecial bietet die Plattform Lernende Systeme einen Überblick über die lernfähige Robotik. Ein Dashboard zeigt unter anderem Einsatzbereiche und Entwicklungen.

    mehr lesen: Potenziale und Grenzen KI-gesteuerter Roboter

  • Kriminelle setzen auf neue Ransomware ’Marke Eigenbau’

    Kriminelle setzen auf neue Ransomware ’Marke Eigenbau’

    Ransomware-as-a-Service gilt als lukratives Geschäft und ist fest in der Hand professionell organisierter Gruppen. Kriminelle, die nicht auf die teuren Bausätze zurückgreifen wollen, könnten nun auf eine schnell zusammengebastelte ’Ramsch-Ransomware’…

    mehr lesen: Kriminelle setzen auf neue Ransomware ’Marke Eigenbau’

  • AutoID-Märkte auch im 2. Halbjahr stabil

    AutoID-Märkte auch im 2. Halbjahr stabil

    Der Industrie-Verband AIM-D befragt seine Mitglieder regelmäßig zur wirtschaftlichen Lage. In der aktuellen Erhebung erweist sich die AutoID-Branche als stabil.

    mehr lesen: AutoID-Märkte auch im 2. Halbjahr stabil

  • Entspannungssignale trotz hohem Monatsminus

    Entspannungssignale trotz hohem Monatsminus

    Im März 2024 lag der Auftragseingang im Maschinen- und Anlagenbau 17 Prozent unter dem Vorjahreswert. Die VDMA-Volkswirte erkennen jedoch erste Anzeichen einer Entspannung.

    mehr lesen: Entspannungssignale trotz hohem Monatsminus

  • Risikoreiche KI per Red Teaming testen

    Risikoreiche KI per Red Teaming testen

    Red Teaming ist eine Möglichkeit, um etwa die Sicherheit von künstlicher Intelligenz zu testen. Jedoch gibt es hierfür keine standardisierten Ansätze. Wissenschaftler des ZEW in Mannheim haben dafür einen Vorschlag.

    mehr lesen: Risikoreiche KI per Red Teaming testen

  • Heute die Materialien von morgen modellieren

    Heute die Materialien von morgen modellieren

    Welche Faktoren bestimmen, wie schnell sich eine Batterie laden lässt? Dieser und weiteren Fragen gehen Forschende am Karlsruher Institut für Technologie (KIT) mit computergestützten Simulationen nach.

    mehr lesen: Heute die Materialien von morgen modellieren

  • Eduard Daoud leitet Vertrieb der SQL Projekt AG

    Eduard Daoud leitet Vertrieb der SQL Projekt AG

    Seit Beginn des Jahres leitet Eduard Daoud das fünfköpfige Transconnect-Vertriebsteam der SQL Projekt AG. Für Unternehmensvorstand Stefan Ehrlich ein Schritt zu noch mehr Professionalisierung, der genau zum richtigen Zeitpunkt komme.

    mehr lesen: Eduard Daoud leitet Vertrieb der SQL Projekt AG

  • Altair übernimmt Cambridge Semantics

    Altair übernimmt Cambridge Semantics

    Mit Cambridge Semantics übernimmt Altair einen Spezialisten für Datenmanagement. Die Software des 2007 gegründeten Unternehmens soll RapidMiner-Plattform von Altair integriert werden.

    mehr lesen: Altair übernimmt Cambridge Semantics

  • Geschäftsklimaindex steigt auch im April

    Geschäftsklimaindex steigt auch im April

    Mit 89,4 Punkten liegt der Geschäftsklimaindex des Ifo-Instituts im April 2024 1,5 Punkte über dem Wert des Vormonats. Die Wirtschaftsforscher führen den Anstieg vor allem auf Entwicklungen im Dienstleistungssektor zurück.

    mehr lesen: Geschäftsklimaindex steigt auch im April

  • Fachforum beleuchtet KI-Potenzial und gibt rechtliche Tipps

    Fachforum beleuchtet KI-Potenzial und gibt rechtliche Tipps

    Welche Rolle künstliche Intelligenz (KI) und Automatisierung für die additive Fertigung spielen, erörtert das Forum Software, KI & Design, das am 15. Mai auf der Rapid.Tech 3D (14. bis 16.…

    mehr lesen: Fachforum beleuchtet KI-Potenzial und gibt rechtliche Tipps