Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • IT-Anwender mit der Digitalisierung ‚einigermaßen zufrieden‘

    IT-Anwender mit der Digitalisierung ‚einigermaßen zufrieden‘

    Wie bewerten IT-Entscheider den Stand der Digitalisierung in Deutschland? Dieser Frage geht der CIO-Barometer des IT-Anwenderverbands Voice nach. Demnach werden vor allem interne Faktoren positiv bewertet. Die externen Rahmenbedingungen kommen…

    mehr lesen: IT-Anwender mit der Digitalisierung ‚einigermaßen zufrieden‘

  • Neue Finance Vice President DACH bei Schneider Electric

    Neue Finance Vice President DACH bei Schneider Electric

    Seit Februar ist Elisabeth Skorna neue Finance Vice President DACH des Tech-Konzerns. Zusätzlich ist sie Teil des DACH-Managementteams. Skorna ist in ihrer neuen Position für die strategische Finanz- und Budgetplanung…

    mehr lesen: Neue Finance Vice President DACH bei Schneider Electric

  • IoT-Einsatz steigt sprunghaft an

    IoT-Einsatz steigt sprunghaft an

    Nach Angaben der Eclipse Foundation verzeichnete die IoT-Einführung im Jahr 2023 einen sprunghaft Anstieg. 64 Prozent der insgesamt Befragten setzen mittlerweile entsprechende Lösungen ein – ein Plus von 11 Prozentpunkten.

    mehr lesen: IoT-Einsatz steigt sprunghaft an

  • Fraunhofer IWU erprobt wasserstoffbasierte Energiesysteme

    Fraunhofer IWU erprobt wasserstoffbasierte Energiesysteme

    In der Forschungsfabrik am Fraunhofer Institut für Werkzeugmaschinen und Umformtechnik IWU wird an einer energie- und ressourceneffizienten Produktion gearbeitet. Das dortige Wasserstoff-Kraftwerk soll Impulse zur dezentralen, stationären Energieversorgung von Fabriken…

    mehr lesen: Fraunhofer IWU erprobt wasserstoffbasierte Energiesysteme

  • BSI schult Dienstleister für den CyberRisikoCheck

    BSI schult Dienstleister für den CyberRisikoCheck

    Um kleine und mittlere Unternehmen (KMU) beim Thema Cybersicherheit zu unterstützen, hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) gemeinsam mit Partnern den CyberRisikoCheck entwickelt. Er bietet KMU eine…

    mehr lesen: BSI schult Dienstleister für den CyberRisikoCheck

  • Logimat mit Besucherwachstum

    Logimat mit Besucherwachstum

    Die Logimat 2024 ist vorüber und laut Veranstalter Euroexpo kamen mehr Besucher und mehr Aussteller – hier etwa jeder Dritte aus dem Ausland – nach Stuttgart.

    mehr lesen: Logimat mit Besucherwachstum

  • Copa-Data Deutschland wird 25

    Copa-Data Deutschland wird 25

    2024 wird für Copa-Data Deutschland zum Jubiläumsjahr: Seit 1999 ist die Tochter des österreichischen Softwareanbieters in der Bundesrepublik aktiv.

    mehr lesen: Copa-Data Deutschland wird 25

  • Anzeige
    Zukunft Anlagenbau: Kollaboration in digitalen Workflows

    Zukunft Anlagenbau: Kollaboration in digitalen Workflows

    Im Zuge der digitalen Transformation sehen sich Planer, Anlagenbauer und Betreiber im Steuerungs- und Schaltanlagenbau mit der Herausforderung konfrontiert, die Kollaboration innerhalb digitaler Workflows neu zu definieren.

    mehr lesen: Zukunft Anlagenbau: Kollaboration in digitalen Workflows

  • Ifo Geschäftsklimaindex steigt

    Ifo Geschäftsklimaindex steigt

    Ist das der Silberstreif am Horizont? Zumindest hellt sich die Stimmung der Wirtschaft im aktuellen Ifo Geschäftsklimaindex auf. Der Indexwert steigt um 2 Punkte.

    mehr lesen: Ifo Geschäftsklimaindex steigt

  • KI-gestützte Verfahren verbessern Molekülforschung

    KI-gestützte Verfahren verbessern Molekülforschung

    Das Fraunhofer-Institut für Integrierte Schaltungen IIS startet gemeinsam mit der Universität Augsburg im Rahmen des Munich-Quantum-Valleys das Projekt KID-QC^2. Ziel ist es, durch die Erforschung von Methoden der künstlichen Intelligenz…

    mehr lesen: KI-gestützte Verfahren verbessern Molekülforschung

  • Microsoft macht NRW zur KI-Region

    Microsoft macht NRW zur KI-Region

    Als Teil seines milliardenschweren Investitionspakets will Microsoft im Rheinischen Revier Rechenzentren errichten und mit einer KI-Qualifizierungsoffensive rund 100.000 Menschen in NRW erreichen.

    mehr lesen: Microsoft macht NRW zur KI-Region

  • Die Digitalisierung schreitet voran, vor allem in China

    Die Digitalisierung schreitet voran, vor allem in China

    Das Industrie 4.0 Barometer 2024 von MHP und der LMU München zeigt die deutliche Unterschiede zwischen China und dem Rest der Welt auf. Besonders beim Einsatz von KI haben chinesische…

    mehr lesen: Die Digitalisierung schreitet voran, vor allem in China