Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Hesthaven neuer KIT-Präsident

    Hesthaven neuer KIT-Präsident

    Jan S. Hesthaven folgt auf Holger Hanselka Hesthaven neuer KIT-Präsident Prof. Jan S. Hesthaven wird neuer Präsident des Karlsruher Instituts für Technologie. Er folgt auf Prof. Holger Hanselka, der Mitte…

    mehr lesen: Hesthaven neuer KIT-Präsident

  • Umati eröffnet Showroom in China

    Umati eröffnet Showroom in China

    Ab sofort können sich Interessierte auch in China live von den Vorteilen offener, standardisierter Schnittstellen auf Basis von OPC UA überzeugen und Umati besser kennenlernen. Die gemeinsame Konnektivitätsinitiative von VDW…

    mehr lesen: Umati eröffnet Showroom in China

  • Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

    Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

    Kommunikationsnetz mit Quantenverschlüsselung Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur Ein von der Telekom geführtes Konsortium verantwortet den Aufbau von Quanten-Testinfrastruktur für Europa. Die Europäische Union will damit die Sicherheit ihrer Kommunikationsnetze,…

    mehr lesen: Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

  • Unternehmen ziehen gemischte LkSG-Bilanz

    Unternehmen ziehen gemischte LkSG-Bilanz

    Ein Jahr Lieferkettensorgfaltspflichtengesetz Unternehmen ziehen gemischte LkSG-Bilanz Eine Studie von IntegrityNext zeigt, dass Unternehmen ab 3.000 Mitarbeitenden eine mäßig positive Bilanz nach dem ersten Jahr des Lieferkettensorgfaltspflichtengesetzes (LkSG) ziehen. Als…

    mehr lesen: Unternehmen ziehen gemischte LkSG-Bilanz

  • Vagner Rego wird neuer Chef von Atlas Copco

    Vagner Rego wird neuer Chef von Atlas Copco

    Ab Mai in neuer Position Vagner Rego wird neuer Chef von Atlas Copco Zum 1. Mai übernimmt der Brasilianer Vagner Rego beim schwedischen Industriekonzern Atlas Copco die Position des Präsidenten…

    mehr lesen: Vagner Rego wird neuer Chef von Atlas Copco

  • Mehr Sicherheit für 5G/6G-Infrastrukturen

    Mehr Sicherheit für 5G/6G-Infrastrukturen

    Forschungsprojekt RealSec5G Mehr Sicherheit für 5G/6G-Infrastrukturen Im Projekt ’RealSec5G’ sollen die Anforderungen der Datensicherheit in Kommunikationsgeräten für 5G/6G-Infrastrukturen in einem deterministischen Time-Sensitive-Netzwerk (TSN) erprobt werden. Im Projekt konzipiert das Fraunhofer-Institut…

    mehr lesen: Mehr Sicherheit für 5G/6G-Infrastrukturen

  • Synostik stellt Geschäftsführer Maik Ekert vor

    Synostik stellt Geschäftsführer Maik Ekert vor

    Mit sofortiger Wirkung Synostik stellt Geschäftsführer Maik Ekert vor Der IT-Dienstleister Synostik gibt Veränderungen in der Führungsebene bekannt und hat Maik Ekert mit sofortiger Wirkung zum Geschäftsführer ernannt.

    mehr lesen: Synostik stellt Geschäftsführer Maik Ekert vor

  • Aleph Alpha erweitert Führungsteam

    Aleph Alpha erweitert Führungsteam

    Jan Hiesserich ist neuer Vice President of Strategy & Communications bei Aleph Alpha. Er kommt vom US-Datenanalyse-Spezialisten Palantir Technologies zum Heidelberger KI-Startup.

    mehr lesen: Aleph Alpha erweitert Führungsteam

  • Fabian Kuttenkeuler leitet Vertrieb

    Fabian Kuttenkeuler leitet Vertrieb

    Wechsel bei Kontron Electronics Fabian Kuttenkeuler leitet Vertrieb Kontron Electronics hat einen neuen Vertriebsleiter. Fabian Kuttenkeuler übernimmt das Amt von Franz Ott, der neuer Business Development Manager des Unternehmens wird.

    mehr lesen: Fabian Kuttenkeuler leitet Vertrieb

  • KI und Hochleistungscomputer beschleunigen Forschung

    KI und Hochleistungscomputer beschleunigen Forschung

    Materialwissenschaft KI und Hochleistungscomputer beschleunigen Forschung Forschende gehen davon aus, ihre Arbeit mit einer Kombination aus künstlicher Intelligenz (KI) und Cloud Computing auf ein Tempo beschleunigen zu können, das bis…

    mehr lesen: KI und Hochleistungscomputer beschleunigen Forschung

  • Antrieb 4.0: Forschung für zukunftsfähige Antriebslösungen

    Antrieb 4.0: Forschung für zukunftsfähige Antriebslösungen

    Antriebe der Zukunft entwickeln Antrieb 4.0: Forschung für zukunftsfähige Antriebslösungen Im Forschungsprojekt Antrieb 4.0 sollen Ansätze für mehr Effizienz und Nachhaltigkeit in Antriebssystemen entwickelt werden. Ein Use Case zielt darauf…

    mehr lesen: Antrieb 4.0: Forschung für zukunftsfähige Antriebslösungen

  • Die industrielle Bildverarbeitung in der Automobilbranche

    Die industrielle Bildverarbeitung in der Automobilbranche

    Vergleich zwischen Deutschland und Großbritannien Die industrielle Bildverarbeitung in der Automobilbranche 43 Prozent der deutschen Automotive-Unternehmen setzen KI in der Bildverarbeitung ein. In Großbritannien sind es mehr als die Hälfte.…

    mehr lesen: Die industrielle Bildverarbeitung in der Automobilbranche