Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • KI-gestützte Verfahren verbessern Molekülforschung

    KI-gestützte Verfahren verbessern Molekülforschung

    Das Fraunhofer-Institut für Integrierte Schaltungen IIS startet gemeinsam mit der Universität Augsburg im Rahmen des Munich-Quantum-Valleys das Projekt KID-QC^2. Ziel ist es, durch die Erforschung von Methoden der künstlichen Intelligenz…

    mehr lesen: KI-gestützte Verfahren verbessern Molekülforschung

  • Microsoft macht NRW zur KI-Region

    Microsoft macht NRW zur KI-Region

    Als Teil seines milliardenschweren Investitionspakets will Microsoft im Rheinischen Revier Rechenzentren errichten und mit einer KI-Qualifizierungsoffensive rund 100.000 Menschen in NRW erreichen.

    mehr lesen: Microsoft macht NRW zur KI-Region

  • Die Digitalisierung schreitet voran, vor allem in China

    Die Digitalisierung schreitet voran, vor allem in China

    Das Industrie 4.0 Barometer 2024 von MHP und der LMU München zeigt die deutliche Unterschiede zwischen China und dem Rest der Welt auf. Besonders beim Einsatz von KI haben chinesische…

    mehr lesen: Die Digitalisierung schreitet voran, vor allem in China

  • USA hinsichtlich KI in Front, Deutschland auf Rang 2

    USA hinsichtlich KI in Front, Deutschland auf Rang 2

    Zwar verzeichnet das Deutsche Patent- und Markenamt deutlich mehr Patentanmeldungen im KI-Bereich als noch vor 5 Jahren. Im Ländervergleich liegt Deutschland hier jedoch hinter den Vereinigten Staaten auf dem 2.…

    mehr lesen: USA hinsichtlich KI in Front, Deutschland auf Rang 2

  • Automatisierungsbranche investiert weiter in Europa

    Automatisierungsbranche investiert weiter in Europa

    Laut einer aktuellen Horvath-Studie unter Automatisierungsunternehmen mit mindestens 100 Millionen Euro Jahresumsatz aus Deutschland, Europa und Nordamerika konzentrieren sich die Investitionen der Branche auf neue Produkktionsanlagen in der Nähe des…

    mehr lesen: Automatisierungsbranche investiert weiter in Europa

  • IÖW empfiehlt Gründung einer CDR-Allianz

    IÖW empfiehlt Gründung einer CDR-Allianz

    Unternehmen müssen im Zuge der Digitalisierung auch ethische, soziale und ökologische Auswirkungen berücksichtigen und managen. Hier rät das Institut für ökologische Wirtschaftsforschung (IÖW) zur Gründung einer Allianz aus Politik, Verbänden…

    mehr lesen: IÖW empfiehlt Gründung einer CDR-Allianz

  • Forscherinnen bringen Pilze zum Klingen

    Forscherinnen bringen Pilze zum Klingen

    Ein Team des Fraunhofer IWU will Pilzmyzel als Werkstoff für Transmissionline-Lautsprecher nutzbar machen. Das Material soll zunächst per 3D-Druck verarbeitet und dann im Wachstum beeinflusst werden. Erste Ergebnisse erscheinen vielversprechend.

    mehr lesen: Forscherinnen bringen Pilze zum Klingen

  • B2B-Messe beleuchtet XR- und Metaverse-Strategien

    B2B-Messe beleuchtet XR- und Metaverse-Strategien

    Anfang April stehen Extended Reality und das Metaverse auf der XR Expo im Mittelpunkt. Die B2B-Messe im Stuttgarter Haus der Wirtschaft bietet neben einer Fachausstellung auch verschiedene Workshops und Vorträge.

    mehr lesen: B2B-Messe beleuchtet XR- und Metaverse-Strategien

  • Tim Srock wird Geschäftsführer von Lobster

    Tim Srock wird Geschäftsführer von Lobster

    Zuletzt war Tim Srock CEO der Siemens-Tochter Mendix. Nun übernimmt er das Ruder beim No-Code-Spezialisten Lobster.

    mehr lesen: Tim Srock wird Geschäftsführer von Lobster

  • Cyberbedrohungen auf Rekord-Niveau

    Cyberbedrohungen auf Rekord-Niveau

    2023 blockierte Trend Micro mehr als 161 Milliarden Cyberbedrohungen weltweit – 10 Prozent mehr als im Jahr zuvor und fast 107 Milliarden mehr als noch vor fünf Jahren.

    mehr lesen: Cyberbedrohungen auf Rekord-Niveau

  • Deutsche Unternehmen melden wieder mehr Erfindungen an

    Deutsche Unternehmen melden wieder mehr Erfindungen an

    Die Zahl der Patentanmeldungen beim Deutschen Patent- und Markenamt ist im Jahr 2023 gestiegen. Größere Anstiege zeigten sich bei den Digitaltechnologien und bei der Elektromobilität.

    mehr lesen: Deutsche Unternehmen melden wieder mehr Erfindungen an

  • Automatisierungspotenzial steigt auch in Expertenberufen

    Automatisierungspotenzial steigt auch in Expertenberufen

    Auch hochqualifizierte Beschäftigte bekommen die Digitalisierung zu spüren. Laut einer Untersuchung des IAB steigt der Anteil automatisierbarer Tätigkeiten in diesen sogenannten Expertenberufen besonders stark.

    mehr lesen: Automatisierungspotenzial steigt auch in Expertenberufen