Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • Was Deskless Worker bewegt

    Was Deskless Worker bewegt

    Eine aktuelle Studie des Aachener Softwarespezialisten Inform unter Mitarbeitenden aus dem produzierenden Gewerbe zeigt, dass sich sogenannte Deskless Worker von ihren Arbeitgebern neben guter Bezahlung vor allem bessere Kommunikation und…

    mehr lesen: Was Deskless Worker bewegt

  • Selbstlernende Optimierung für hybride Bearbeitung

    Selbstlernende Optimierung für hybride Bearbeitung

    Open Mind beteiligt sich am Verbundprojekt ’CICAM – Computational Intelligence for Computer-aided Manufacturing’ des Instituts für Werkzeugmaschinen und Betriebswissenschaften an der Technischen Universität München und Spanflug Technologies. Das Forschungsprojekt hat…

    mehr lesen: Selbstlernende Optimierung für hybride Bearbeitung

  • PWC-Maschinenbaubarometer: Verunsicherung weiterhin hoch

    PWC-Maschinenbaubarometer: Verunsicherung weiterhin hoch

    Das aktuelle Maschinenbaubarometer von PWC zeigt zwar, dass die Anzahl derjenigen, die optimistisch auf die Entwicklung der deutschen und weltweiten Konjunktur blicken, im Vergleich zum Vorquartal gestiegen ist. Allerdings liegt…

    mehr lesen: PWC-Maschinenbaubarometer: Verunsicherung weiterhin hoch

  • Wie sicher ist Open Source Software?

    Wie sicher ist Open Source Software?

    Anfang April hat ein Microsoft-Ingenieur einen Hackerangriff auf die Linux Software in letzter Minute vereitelt. Dies warf die Frage auf, wie es um die Sicherheit von Open Source Software (OSS)…

    mehr lesen: Wie sicher ist Open Source Software?

  • MVTec sieht geistiges Eigentum verletzt

    MVTec sieht geistiges Eigentum verletzt

    Taiwanesische Behörden haben ein Strafverfahren gegen Kameralinsen-Hersteller Largan eingeleitet. Gegenstand des Verfahrens ist die unrechtmäßige Nutzung der Softwareprodukte von MVTec Software.

    mehr lesen: MVTec sieht geistiges Eigentum verletzt

  • Mit Edge AI Datenschutz und Energieeffizienz verbessern

    Mit Edge AI Datenschutz und Energieeffizienz verbessern

    In einem aktuellen Whitepaper gibt die Plattform einen Überblick über Stärken und Schwächen von Edge AI und diskutiert Optionen, wie die Technologie in die Anwendung gebracht werden kann.

    mehr lesen: Mit Edge AI Datenschutz und Energieeffizienz verbessern

  • Schneider Electric als weltweit nachhaltigstes Unternehmen ausgezeichnet

    Schneider Electric als weltweit nachhaltigstes Unternehmen ausgezeichnet

    Time Magazine und Statista haben Schneider Electric als nachhaltigstes Unternehmen der Welt ausgezeichnet. Der Technologie-Konzern setzte sich in der Rangliste an die Spitze einer Auswahl von 500 Unternehmen aus 30…

    mehr lesen: Schneider Electric als weltweit nachhaltigstes Unternehmen ausgezeichnet

  • SpiraTec integriert Tochterunternehmen

    SpiraTec integriert Tochterunternehmen

    Die Industrial Solutions M&B, eine 100-prozentige Tochterfirma der SpiraTec AG, ist zum 28. Juni 2024 mit der Muttergesellschaft verschmolzen.

    mehr lesen: SpiraTec integriert Tochterunternehmen

  • Wenn aus Schrott neuer Stahl wird

    Wenn aus Schrott neuer Stahl wird

    Mit über 2,2Mio.t verarbeitetem Schrott pro Jahr ist die Swiss Steel Group einer der größten Recycling-Betriebe Europas. Für seinen ’Green Steel’, also Stahl aus recyceltem Material, arbeitet das Unternehmen an…

    mehr lesen: Wenn aus Schrott neuer Stahl wird

  • Wie AnoWatch Abweichungen erkennt

    Wie AnoWatch Abweichungen erkennt

    Das am Fraunhofer IWU entwickelte System AnoWatch hilft, Fehler auf Karosserieteilen zu erkennen. Das Besondere: Das System wird mit fehlerfreien Bauteilen angelernt.

    mehr lesen: Wie AnoWatch Abweichungen erkennt

  • Neuer CEO für Bentley Systems

    Neuer CEO für Bentley Systems

    Bentley Systems hat einen neuen CEO. Mit Nicholas Cumins übernimmt erstmals eine Führungskraft, die nicht aus der Bentley-Familie stammt, die Geschicke des CAD-Spezialisten.

    mehr lesen: Neuer CEO für Bentley Systems

  • Eplan feiert 40-jähriges Firmenjubiläum

    Eplan feiert 40-jähriges Firmenjubiläum

    1984 wurde das Elektro-Engineering aus der Taufe gehoben und damit auch die Software, die dem Unternehmen Eplan seinen Namen gab. Das 40-jährige Bestehen wurde nun mit einer Veranstaltung im Nationalen…

    mehr lesen: Eplan feiert 40-jähriges Firmenjubiläum