Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Eplan Network geht wieder auf Tour

    Eplan Network geht wieder auf Tour

    Im September startet die jährliche Roadshow von Eplan durch acht Städte in Deutschland, Österreich und der Schweiz.

    mehr lesen: Eplan Network geht wieder auf Tour

  • Rahmenprogramm Nachwuchs und Fachkräfte

    Rahmenprogramm Nachwuchs und Fachkräfte

    Die Fachkräftesicherung bleibt eine zentrale Herausforderung in der Metallbearbeitungsbranche und bedarf einer konsequenten qualifizierten Nachwuchsförderung.

    mehr lesen: Rahmenprogramm Nachwuchs und Fachkräfte

  • Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

    Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

    Im Juni blieben die Bestellungen im Maschinen- und Anlagenbau unter dem Vorjahreswert. Und auch für das erste Halbjahr verzeichnet die Branche ein Minus.

    mehr lesen: Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

  • Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

    Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

    In der industriellen Fertigung, aber auch in anderen Branchen, hat sich die physische Interaktion zwischen Mensch und Roboter zu einer Schlüsseltechnologie entwickelt. Das Forschungsprojekt Fitness will diese Interaktion mit Metasurface-Antennen…

    mehr lesen: Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

  • Econ Solutions bezieht neuen Standort

    Econ Solutions bezieht neuen Standort

    Um mehr Kundennähe sowie eine engere Zusammenarbeit mit dem Mutterunternehmen MVV Energie zu ermöglichen hat Econ Solutions einen neuen Standort eröffnet.

    mehr lesen: Econ Solutions bezieht neuen Standort

  • KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

    KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

    Vor 40 Jahren kam die erste E-Mail in Deutschland an. Heute werden täglich rund 350 Milliarden Mails versendet – auch durch Cyberkriminelle. Professorin Melanie Volkamer, Expertin für IT-Sicherheit vom Karlsruher…

    mehr lesen: KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

  • Bitkom zum Inkrafttreten des AI Acts

    Bitkom zum Inkrafttreten des AI Acts

    Nach der Veröffentlichung im EU-Amtsblatt am 12. Juli tritt am 1. August der AI Act in Kraft. Der Bitkom sieht jedoch noch viele Fragen ungeklärt.

    mehr lesen: Bitkom zum Inkrafttreten des AI Acts

  • Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

    Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

    In Deutschland fehlen Fachkräfte. Ein Weg, um die Lücken zumindest ein bisschen zu schließen: Selbst ausbilden. Besonders gefragt ist Nachwuchs in MINT-Berufen. Wie aus einer Studie des Instituts der deutschen…

    mehr lesen: Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

  • Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

    Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

    Nahezu alle Industrie-Unternehmen befassen sich laut einer Capgemini-Studie mit Bio-Engineering. Die Mehrheit der befragten Organisationen plant demnach sogar Investitionserhöhungen für Biotechnologie. Ein zentrales Motiv: mehr Nachhaltigkeit.

    mehr lesen: Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

  • Smart Factory Week startet Mitte September

    Smart Factory Week startet Mitte September

    Die Smart Factory Week von MPDV geht vom 16. bis 19. September 2024 in die vierte Runde. Das Online-Event richtet sich an Einsteiger und Nutzer digitaler Fertigungsprozesse und Management Execution…

    mehr lesen: Smart Factory Week startet Mitte September

  • Neuer Managing Director Germany bei Commvault

    Neuer Managing Director Germany bei Commvault

    Seit Juli hat die Commvault Systems einen neuen Management Director für Deutschland. Frank Dehne folgt in dieser Position auf Peter Kayi.

    mehr lesen: Neuer Managing Director Germany bei Commvault

  • BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    Nach den weltweiten IT-Störungen am 19. Juli 2024 hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) im Gespräch mit den Software-Unternehmen Crowdstrike und Microsoft erste Maßnahmen entwickelt, um vergleichbare…

    mehr lesen: BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle