Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • WIIT übernimmt Teil von German Edge Cloud

    WIIT übernimmt Teil von German Edge Cloud

    Die WIIT, ein Cloud Computing-Anbieter aus Italien, hat über die deutsche Tochtergesellschaft WIIT AG einen Vertrag zum Erwerb des Geschäftsbereichs Edge & Cloud der zur Friedhelm Loh Group gehörenden German…

    mehr lesen: WIIT übernimmt Teil von German Edge Cloud

  • Aufatmen in der deutschen Automobilindustrie

    Aufatmen in der deutschen Automobilindustrie

    Im Januar hat sich die Stimmung der deutschen Autobauer verbessert. Trotz einiger positiver Signale, gibt das Ifo Institut jedoch noch keine Entwarnung. Unter anderem bereiten Auftragslage und der Fachkräftemangel sorgen.

    mehr lesen: Aufatmen in der deutschen Automobilindustrie

  • Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

    Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

    Am 21. Februar 2024 starten die Maintenance als Messe für die industrielle Instandhaltung und die Pumps&Valves als Fachmesse für industrielle Pumpen, Armaturen und Ventile. Auf die Fachbesucher warten rund 240…

    mehr lesen: Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

  • Führungswechsel bei Schneider Electric DACH

    Führungswechsel bei Schneider Electric DACH

    Stefan Gierse wird mit Wirkung zum April neuer Zone President der DACH-Organisation von Schneider Electric. Der 45-Jährige war zuvor für Siemens tätig.

    mehr lesen: Führungswechsel bei Schneider Electric DACH

  • Rückgang schwächt sich leicht ab

    Rückgang schwächt sich leicht ab

    Der Orderrückgang des Maschinen- und Anlagenbaus hat sich im Dezember 2023 etwas abgeschwächt – unter dem Strich vermeldet der VDMA für das gesamte Jahr aber dennoch ein zweistelliges Minus der…

    mehr lesen: Rückgang schwächt sich leicht ab

  • Jörg von Ploetz zum CEO ernannt

    Jörg von Ploetz zum CEO ernannt

    Jörg von Ploetz löst Rüdiger Weihs an der Spitze des Softwareunternehmens Böhme & Weihs ab. Von Ploetz war zuvor COO des Qualitätsmanagement-Spezialisten.

    mehr lesen: Jörg von Ploetz zum CEO ernannt

  • Wie Hacker im Darknet Innentäter anwerben

    Wie Hacker im Darknet Innentäter anwerben

    Hacker und Cyberkriminelle bieten im Darknet nicht nur ihre Dienste an oder verkaufen dort erbeutete Datensätze. Sie suchen auch Komplizen, wie etwa unzufriedenen Mitarbeitern. Manchmal bieten diese ihre Dienste sogar…

    mehr lesen: Wie Hacker im Darknet Innentäter anwerben

  • Ein Motorrad fürs Wasserstoffzeitalter

    Ein Motorrad fürs Wasserstoffzeitalter

    Ein deutsch-tschechisches Konsortium aus Forschungseinrichtungen und Unternehmen arbeitet im Projekt Hydrocycle an einem Wasserstoff-Motorrad. Unter anderem wollen die Partner einen neuartigen Brennstoffzellenstack entwickeln

    mehr lesen: Ein Motorrad fürs Wasserstoffzeitalter

  • Verbände üben Kritik am AI Act

    Verbände üben Kritik am AI Act

    Regeln für künstliche Intelligenz Verbände üben Kritik am AI Act In dieser Woche wird Deutschland voraussichtlich grünes Licht für den aktuellen Entwurf des EU AI Acts geben. Verbände äußern jedoch…

    mehr lesen: Verbände üben Kritik am AI Act

  • Hesthaven neuer KIT-Präsident

    Hesthaven neuer KIT-Präsident

    Jan S. Hesthaven folgt auf Holger Hanselka Hesthaven neuer KIT-Präsident Prof. Jan S. Hesthaven wird neuer Präsident des Karlsruher Instituts für Technologie. Er folgt auf Prof. Holger Hanselka, der Mitte…

    mehr lesen: Hesthaven neuer KIT-Präsident

  • Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

    Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

    Kommunikationsnetz mit Quantenverschlüsselung Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur Ein von der Telekom geführtes Konsortium verantwortet den Aufbau von Quanten-Testinfrastruktur für Europa. Die Europäische Union will damit die Sicherheit ihrer Kommunikationsnetze,…

    mehr lesen: Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

  • Unternehmen ziehen gemischte LkSG-Bilanz

    Unternehmen ziehen gemischte LkSG-Bilanz

    Ein Jahr Lieferkettensorgfaltspflichtengesetz Unternehmen ziehen gemischte LkSG-Bilanz Eine Studie von IntegrityNext zeigt, dass Unternehmen ab 3.000 Mitarbeitenden eine mäßig positive Bilanz nach dem ersten Jahr des Lieferkettensorgfaltspflichtengesetzes (LkSG) ziehen. Als…

    mehr lesen: Unternehmen ziehen gemischte LkSG-Bilanz