Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Stimmung in der Automobilindustrie kühlt ab

    Stimmung in der Automobilindustrie kühlt ab

    Nach zuletzt etwas besseren Werten im April bewegt sich der Ifo-Indikator für das Geschäftsklima in der Automobilindustrie im Mai wieder in die andere Richtung.

    mehr lesen: Stimmung in der Automobilindustrie kühlt ab

  • Petra Boss wird Co-CFO bei Xitaso

    Petra Boss wird Co-CFO bei Xitaso

    Mit Petra Boss hat Xitaso eine neue Geschäftsführerin. Als Co-CFO verantwortet die 55-Jährige gemeinsam mit Martin Huggenberger den Finance- und Legal-Bereich des Unternehmens.

    mehr lesen: Petra Boss wird Co-CFO bei Xitaso

  • Dämpfer für das IAB-Arbeitsmarktbarometer

    Dämpfer für das IAB-Arbeitsmarktbarometer

    Im Vergleich zum Vormonat sinkt das IAB-Arbeitsmarktbarometer im Mai 2024 um 0,8 Punkte. Der Frühindikator des Instituts für Arbeitsmarkt- und Berufsforschung (IAB) befindet sich nun mit 99,8 Punkten unter dem…

    mehr lesen: Dämpfer für das IAB-Arbeitsmarktbarometer

  • Wago und Radiflow bündeln ihre Kräfte zur Stärkung der OT-Sicherheit

    Wago und Radiflow bündeln ihre Kräfte zur Stärkung der OT-Sicherheit

    Wago und Radiflow gehen eine Partnerschaft ein und bündeln künftig ihre Kompetenzen: Wago zählt zu den international führenden Anbietern von elektrischer Verbindungs- und Automatisierungstechnik.

    mehr lesen: Wago und Radiflow bündeln ihre Kräfte zur Stärkung der OT-Sicherheit

  • AI’d Forge hilft beim Transfer von KI-Technologien

    AI’d Forge hilft beim Transfer von KI-Technologien

    Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) und der finnische KI-Spezialist Emblica mit Sitz in Helsinki wollen Unternehmen künftig bei der digitalen Transformation unterstützen.

    mehr lesen: AI’d Forge hilft beim Transfer von KI-Technologien

  • Bechtle führt belgische Einzelgesellschaften zusammen

    Bechtle führt belgische Einzelgesellschaften zusammen

    Der IT-Dienstleister Bechtle bündelt die belgischen Gesellschaften Bechtle Group BE Public, Bechtle Direct NV und Bechtle NV in der Bechtle NV.

    mehr lesen: Bechtle führt belgische Einzelgesellschaften zusammen

  • T-Systems hat einen neuen Marketing-Chef

    T-Systems hat einen neuen Marketing-Chef

    Zum 1. September übernimmt Christian Loefert das Marketing von T-Systems. Der promovierte Wirtschaftswissenschaftler ist bereits seit 2008 für den Telekom-Konzern tätig.

    mehr lesen: T-Systems hat einen neuen Marketing-Chef

  • Bestellungen im Maschinenbau wachsen um 10 Prozent

    Bestellungen im Maschinenbau wachsen um 10 Prozent

    Die deutschen Maschinen- und Anlagenbauer melden im April ein Auftragsplus von 10 Prozent. Die Talsohle sei erreicht, kommentiert VDMA-Chefvolkswirt Dr. Ralph Wiechers.

    mehr lesen: Bestellungen im Maschinenbau wachsen um 10 Prozent

  • Klassische und Quanten-Algorithmen in Kombination

    Klassische und Quanten-Algorithmen in Kombination

    Im Rahmen eines Forschungsprojekts kombinieren Classiq und Hewlett Packard Enterprise klassisches High-Performance-Computing (HPC) mit Quantencomputing. Ziel ist es, kombinatorischer Optimierungsprobleme zu lösen.

    mehr lesen: Klassische und Quanten-Algorithmen in Kombination

  • Telekom und Trumpf schließen Vertriebspartnerschaft für 5G-System

    Telekom und Trumpf schließen Vertriebspartnerschaft für 5G-System

    Telekom und Trumpf bauen ihre Zusammenarbeit aus. Im Rahmen einer Vertriebspartnerschaft bieten die Unternehmen etwa ein von Trumpf entwickeltes Ortungssystem an, das von T-Systems auf einer Edge-Cloud bereitgestellt wird.

    mehr lesen: Telekom und Trumpf schließen Vertriebspartnerschaft für 5G-System

  • Gründungen auf neuem Tiefststand –  vor allem verarbeitendes Gewerbe betroffen

    Gründungen auf neuem Tiefststand – vor allem verarbeitendes Gewerbe betroffen

    Im Jahr 2018 führten 25 Prozent der jungen Unternehmen im verarbeitenden Gewerbe Marktneuheiten ein. Im aktuellen IAB/ZEW-Gründungspanel ist dieser Wert auf 21 Prozent gesunken. Zudem beobachten die Studienverantwortlichen insgesamt einen…

    mehr lesen: Gründungen auf neuem Tiefststand – vor allem verarbeitendes Gewerbe betroffen

  • Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt

    Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt

    Leistungsfähige Mikrochips sind entscheidend für den erfolgreichen Einsatz von künstlicher Intelligenz (KI). Das am Karlsruher Institut für Technologie (KIT) koordinierte Projekt EDAI verfolgt einen neuen Ansatz: Die Forschenden koppeln den…

    mehr lesen: Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt