Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Vier neue Vertriebspartner für Universal Robots

    Vier neue Vertriebspartner für Universal Robots

    Universal Robots (UR) baut sein Vertriebsnetz in Deutschland aus. Mit SCS Robotik, JDT Robotics, PTS Automation sowie der Somack sind vier neue Partner hinzugekommen.

    mehr lesen: Vier neue Vertriebspartner für Universal Robots

  • Cyberangriffe gefährden die Digitalisierung

    Cyberangriffe gefährden die Digitalisierung

    Im seinem neuen Lagebericht zur IT-Sicherheit in Deutschland fordert das Bundesamt für Sicherheit in der Informationstechnik der Cybersicherheit eine stärkere Bedeutung beizumessen. Die Gefährdungslage sei hoch, so Bundesinnenminister Horst Seehofer.

    mehr lesen: Cyberangriffe gefährden die Digitalisierung

  • Materialise eröffnet Metall-Kompetenzzentrum für 3D-Druck

    Materialise eröffnet Metall-Kompetenzzentrum für 3D-Druck

    Der 3D-Druck-Spezialist Materialise vergrößert seinen Bremer Standort und hat ein Metall-Kompetenzzentrum für 3D-Druck eröffnet, das künftig 120 Mitarbeitern Platz bieten soll.

    mehr lesen: Materialise eröffnet Metall-Kompetenzzentrum für 3D-Druck

  • Moxa und Crosser arbeiten zusammen

    Moxa und Crosser arbeiten zusammen

    Mit dem Ziel Komplettlösungen für das Industrial Internet of Things anbieten zu können, arbeiten Moxa Europe und Crosser zukünftig zusammen. Dazu integriert Moxa den Low-Code-Ansatz von Crosser in seine Lösungen.

    mehr lesen: Moxa und Crosser arbeiten zusammen

  • Neuer Geschäftsführer bei Sage

    Neuer Geschäftsführer bei Sage

    Christoph Stoica verantwortet als neuer Geschäftsführer zukünftig die Landesgesellschaften in Zentraleuropa von Sage. Er übernimmt das Amt zum 1. November.

    mehr lesen: Neuer Geschäftsführer bei Sage

  • Höchstes Budget für Nachhaltigkeit im Maschinenbau

    Höchstes Budget für Nachhaltigkeit im Maschinenbau

    68 Prozent der deutschen Maschinen und Anlagenbauer haben Nachhaltigkeit in der Unternehmensstrategie verankert, 39 Prozent von ihnen – und damit mehr im Vergleich zu anderen Branchen – stellen spezielles Budget…

    mehr lesen: Höchstes Budget für Nachhaltigkeit im Maschinenbau

  • Aras ernennt Roque Martin zum CEO

    Aras ernennt Roque Martin zum CEO

    Roque Martin wird neuer CEO beim Low-Code-Spezialisten Aras. Der bisherige CEO und Unternehmensgründer Peter Schroer wechselt in das Board of Directors.

    mehr lesen: Aras ernennt Roque Martin zum CEO

  • Angriffsflächen-Management verbessert IT-Sicherheit

    Angriffsflächen-Management verbessert IT-Sicherheit

    Unter der digitalen Angriffsfläche versteht man alle Angriffsvektoren, über die ein unautorisierter Nutzer versuchen kann, Daten einzubringen oder zu entwenden.

    mehr lesen: Angriffsflächen-Management verbessert IT-Sicherheit

  • Neuer CEO bei IoT Inspector

    Neuer CEO bei IoT Inspector

    Jan C. Wendenburg übernimmt die Leitung von IoT Inspector der Analyse-Plattform für Sicherheit im Internet der Dinge (IoT). Er kommt von Cergate zum IoT-Spezialisten.

    mehr lesen: Neuer CEO bei IoT Inspector

  • Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

    Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

    Die Branchenverbände IBU, IMU, DSV und VDFI sehen in einem gemeinsam veröffentlichten Brandbrief den „Standort Deutschland gefährdet“. Die Lieferkette der Automobilindustrie stehe vor dem Kollaps, heißt es darin.

    mehr lesen: Verbände fordern Schulterschluss zwischen Autobauern und Zulieferern

  • Interaktion zwischen Mensch und KI verbessern

    Interaktion zwischen Mensch und KI verbessern

    Im Forschungsprojekt ’GeMeKI’ entwickelt das Fraunhofer-Institut für Produktiontsechnologie IPT aus Aachen gemeinsam mit elf Partnern drei KI-gestützte Assistenzsysteme für das Fügen, Trennen und Umformen, die komplexes menschliches Expertenwissen in ihre…

    mehr lesen: Interaktion zwischen Mensch und KI verbessern

  • ZEW-Konjunkturerwartungen gehen erneut zurück

    ZEW-Konjunkturerwartungen gehen erneut zurück

    Mit einem Rückgang um 4,2 Punkte verzeichnet die ZEW-Konjunkturumfrage im Oktober den fünften Rückgang in Folge. Erstmals seit Februar verschlechtert sich auch die Einschätzung der aktuellen konjunkturellen Lage.

    mehr lesen: ZEW-Konjunkturerwartungen gehen erneut zurück