Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Manning leitet VDI-Gesellschaft Verfahrenstechnik und Chemie

    Manning leitet VDI-Gesellschaft Verfahrenstechnik und Chemie

    Vivian Manning vertritt seit dem 1. August die Interessen der VDI-Gesellschaft Verfahrenstechnik und Chemie.

    mehr lesen: Manning leitet VDI-Gesellschaft Verfahrenstechnik und Chemie

  • Wie sieht die Zukunft der IT/OT-Konvergenz aus?

    Wie sieht die Zukunft der IT/OT-Konvergenz aus?

    Der IT/OT Convergence Summit 2024 findet am 18. und 19. September in Darmstadt statt. Veranstalter Aonic lädt ein, sich über die Verknüpfung der digitalen Welt der IT mit der realen…

    mehr lesen: Wie sieht die Zukunft der IT/OT-Konvergenz aus?

  • Eine der größten Aufdach-Solaranlagen Bayerns

    Eine der größten Aufdach-Solaranlagen Bayerns

    Der Folienhersteller Allvac hat seine Produktion modernisiert und setzt dabei nicht nur auf neue Technik, sondern auch auf regenerative Energie. Dafür hat die Firma in Waltenhofen in Bayern über zehn…

    mehr lesen: Eine der größten Aufdach-Solaranlagen Bayerns

  • IT-Modernisierungsstau bei Warehouse Operations

    IT-Modernisierungsstau bei Warehouse Operations

    Manhattan Associates und Vanson Bourne haben in Deutschland 200 Lieferketten-Spezialisten zum Stand ihrer Warehouse Operations befragt. Dabei kam heraus, dass sich die Branche mit vielen Belastungen und Unsicherheitsfaktoren konfrontiert sieht.…

    mehr lesen: IT-Modernisierungsstau bei Warehouse Operations

  • Elke Anderl verantwortet T-Systems-Vertrieb

    Elke Anderl verantwortet T-Systems-Vertrieb

    T-Systems hat mit Elke Anderl eine neue Vertriebs- und Marketingchefin. Sie übernimmt das Amt zum 1. September von Urs M. Krämer.

    mehr lesen: Elke Anderl verantwortet T-Systems-Vertrieb

  • Maschinenexporte: Schwaches erstes Halbjahr

    Maschinenexporte: Schwaches erstes Halbjahr

    Die Maschinen- und Anlagenbaufirmen aus Deutschland mussten im ersten Halbjahr 2024 deutliche Einbußen auf den Auslandsmärkten hinnehmen.

    mehr lesen: Maschinenexporte: Schwaches erstes Halbjahr

  • Vinci Energies trifft Übernahmevereinbarung mit der Fernao-Gruppe

    Vinci Energies trifft Übernahmevereinbarung mit der Fernao-Gruppe

    Vinci Energies hat eine Vereinbarung zur Übernahme der Fernao-Gruppe, einem Anbieter von Cybersecurity-Dienstleistungen in Deutschland und der Schweiz, unterzeichnet.

    mehr lesen: Vinci Energies trifft Übernahmevereinbarung mit der Fernao-Gruppe

  • Europas Open-Source-Community trifft sich in Mainz

    Europas Open-Source-Community trifft sich in Mainz

    Ab sofort ist die Anmeldung für die Open Community Experience (OCX 2024) möglich. Die Konferenz in Mainz richtet sich an verschiedene Open-Source-Communities, u.a. aus den Bereichen Automotive & Mobilität, Cloud…

    mehr lesen: Europas Open-Source-Community trifft sich in Mainz

  • Deutsche Unternehmen handeln bei SAP wenig strategisch

    Deutsche Unternehmen handeln bei SAP wenig strategisch

    Der aufgeschobene Umstieg auf SAP S/4 Hana und die Zurückhaltung bei Innovationen prägen das Handeln vieler Unternehmen, so eine Studie des Marktforschungsunternehmens ISG.

    mehr lesen: Deutsche Unternehmen handeln bei SAP wenig strategisch

  • Gaia-X Roadshow kommt nach Dortmund

    Gaia-X Roadshow kommt nach Dortmund

    Um Datenräume in der Logistik geht es im Rahmen der Gaia-X Roadshow, die am 17. September Station in Dortmund macht.

    mehr lesen: Gaia-X Roadshow kommt nach Dortmund

  • Bain analysiert den Markt für generative KI

    Bain analysiert den Markt für generative KI

    Auch abseits der großen KI-Modelle tut sich viel auf dem Markt für generative künstliche Intelligenz. Was? Das hat die Unternehmensberatung Bain & Company untersucht und Anbieter unter die Lupe genommen.

    mehr lesen: Bain analysiert den Markt für generative KI

  • So viele unbesetzte Ausbildungsstellen wie nie zuvor

    So viele unbesetzte Ausbildungsstellen wie nie zuvor

    Im Jahr 2023 wurden wieder mehr neue Ausbildungsverträge abgeschlossen. Dennoch hat der Anteil unbesetzter Ausbildungsstellen ein Rekordhoch erreicht.

    mehr lesen: So viele unbesetzte Ausbildungsstellen wie nie zuvor