Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Neuer Bedrohungsakteur PuzzleMaker

    Neuer Bedrohungsakteur PuzzleMaker

    Bereits im April entdeckten Kaspersky-Experten eine Reihe extrem zielgerichteter Cyberattacken gegen mehrere Unternehmen, die zuvor unentdeckte Google-Chrome- und Microsoft-Windows-Zero-Day-Exploits nutzten.

    mehr lesen: Neuer Bedrohungsakteur PuzzleMaker

  • Dan Smoot wird CEO bei Riverbed

    Dan Smoot wird CEO bei Riverbed

    Riverbed ernennt Dan Smoot zum President und CEO und will damit die nächste Wachstumsphase vorantreiben.

    mehr lesen: Dan Smoot wird CEO bei Riverbed

  • Fachkräftemangel im Maschinenbau verschärft sich wieder

    Fachkräftemangel im Maschinenbau verschärft sich wieder

    Im Maschinen- und Anlagenbau gewinnt der konjunkturelle Aufschwung deutlich an Fahrt. Doch nun rücken wieder zunehmend Fachkräfteengpässe in den Fokus der Unternehmen. Laut einer aktuellen Umfrage des VDMA unter rund…

    mehr lesen: Fachkräftemangel im Maschinenbau verschärft sich wieder

  • T-Systems CTO steht Board of Directors der Gaia-X Association vor

    T-Systems CTO steht Board of Directors der Gaia-X Association vor

    Maximilian Ahrens, CTO von T-Systems, wurde zum Vorsitzenden des Board of Directors der Gaia-X-Initiative gewählt.

    mehr lesen: T-Systems CTO steht Board of Directors der Gaia-X Association vor

  • Instabile Lieferketten machen Unternehmen zu schaffen

    Instabile Lieferketten machen Unternehmen zu schaffen

    Durchschnittlich 1Mio.€ Verlust Instabile Lieferketten machen Unternehmen zu schaffen Seit Anfang 2020 sind auch die Lieferketten weltweit immer instabiler und anfälliger geworden. Der Nachschub von Komponenten wie etwa Chips oder…

    mehr lesen: Instabile Lieferketten machen Unternehmen zu schaffen

  • SAP und TeamViewer arbeiten zusammen

    SAP und TeamViewer arbeiten zusammen

    Durch die strategischen Partnerschaft zwischen TeamViewer und SAP soll u.a. die AR-Lösung Frontline in das SAP-Angebot integriert werden.

    mehr lesen: SAP und TeamViewer arbeiten zusammen

  • Konsortium für Quantencomputing gegründet

    Konsortium für Quantencomputing gegründet

    Mit dem QUTAC haben sich zehn Unternehmen in einem Konsortium zusammengeschlossen um industrielle Anwendungen für Quantencomputing zu entwickeln.

    mehr lesen: Konsortium für Quantencomputing gegründet

  • Remote Work in der Fertigungsindustrie

    Remote Work in der Fertigungsindustrie

    Okta hat im Rahmen einer Studie ermittelt, wie Arbeitnehmer künftig arbeiten wollen. Demnach möchten sie ihr Arbeitsmodell zukünftig selbst wählen. Einige glauben jedoch nicht, dass ihr Arbeitgeber ihnen diese Flexibilität…

    mehr lesen: Remote Work in der Fertigungsindustrie

  • Siemens kauft Nextflow Software

    Siemens kauft Nextflow Software

    Transiente Strömungssimulation mit Simcenter Siemens kauft Nextflow Software Siemens erwirbt das französische Startup Nextflow Software. Durch die Integration deren CFD-Technologie ins Xcelerator-Portfolio sollen Anwender komplexe Applikationen mit transienten Strömungen und…

    mehr lesen: Siemens kauft Nextflow Software

  • Bundestag beschließt Unternehmensbasisregister

    Bundestag beschließt Unternehmensbasisregister

    Unternehmen sind in Deutschland in unterschiedlichen Registern erfasst, zwischen denen Daten selten oder gar nicht ausgetauscht werden. Mit dem nun beschlossenen Basisregister müssen Unternehmen ihre Daten künftig nur noch einmal…

    mehr lesen: Bundestag beschließt Unternehmensbasisregister

  • BSI eröffnet Stützpunkt in Saarbrücken

    BSI eröffnet Stützpunkt in Saarbrücken

    Am neuen BSI-Stützpunkt in Saarbrücken will das Bundesamt für Sicherheit in der Informationstechnik gemeinsam mit anderen Forschungseinrichtung seine Arbeit im Bereich künstliche Intelligenz ausbauen.

    mehr lesen: BSI eröffnet Stützpunkt in Saarbrücken

  • Kaspersky schickt Führungskräfte in virtuelles Kraftwerk

    Kaspersky schickt Führungskräfte in virtuelles Kraftwerk

    Mit einer VR-Version seines Simulationsspiels Interactive Protection Simulation will Kaspersky Führungskräften Knowhow darüber vermitteln, welchen Einfluss Entscheidungen auf die Cybersicherheit haben können.

    mehr lesen: Kaspersky schickt Führungskräfte in virtuelles Kraftwerk