Wie schnell dürfen KI-Agenten Entscheidungen treffen?

Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage.
Der Einsatz von weitgehend autonom handelnden KI-Agenten ist zu einem großen Teil auch eine Vertrauensfrage. – Bild: ©Mohamed Hassan/pixabay.com

KI-basierte Assistenten und Copiloten fassen Schichtübergaben und Wartungsprotokolle zusammen, erläutern Fehlercodes in Klartext oder finden Informationen in technischen Dokumentationen. Doch es steht mit der agentischen KI bereits die nächste Entwicklungsstufe der Automatisierung bereit. Im Gegensatz zu reinen Assistenten verfolgen KI-Agenten nicht nur einzelne Arbeitsschritte, sondern ein vorgegebenes Ziel und entscheiden dabei, wie sie es erreichen. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Perspektive: Während Copiloten in einem definierten Prozesses arbeiten, wird beim KI-Agenten der Prozess selbst zur Variablen. Unternehmen müssen deshalb nicht mehr jeden einzelnen Arbeitsschritt festlegen, sondern zulässige Ergebnisse definieren. Daher stoßen Prozessdokumentationen und Freigabeworkflows an Grenzen, wenn Agenten eingesetzt werden.

Einsatz in der Praxis

Wie das aussehen kann, zeigt sich an der Auftragsbearbeitung: Geht etwa eine Kundenbestellung ein, analysiert ein KI-Agent sie automatisch, extrahiert die relevanten Informationen und prüft sie auf Vollständigkeit. Fehlen Angaben oder gibt es Unstimmigkeiten, nimmt er per E-Mail Kontakt zum Kunden auf oder klärt die Rückfrage per Chat mit den zuständigen Kollegen und Kolleginnen im Haus. Ist die Prüfung abgeschlossen, legt er den Auftrag im Unternehmenssystem an und erkennt, ob Material beschafft werden muss. Für diesen Fall kann er einen auf Einkauf spezialisierten Agenten anstoßen. Dieser identifiziert die benötigten Komponenten, holt Angebote bei Lieferanten ein und erinnert automatisch, wenn Rückmeldungen ausbleiben. Anschließend vergleicht er die eingegangenen Angebote systematisch und legt dem zuständigen Mitarbeitenden eine Empfehlung vor.

Menschen bleiben wichtig

Eine Prämisse für die Einführung agentischer KI lautet, dass Autonomie kein Zustand ist, der von Tag eins an gewährt wird. Sie ist das Ergebnis von Vertrauensaufbau. Auch einem neuen Kollegen gibt niemand am ersten Tag die Schlüssel zum Safe. Er wird eingearbeitet, bekommt Rückmeldung zu seiner Arbeit und erst nach und nach Entscheidungsbefugnisse zugeteilt. Bei digitalen Mitarbeitenden läuft dieser Prozess ähnlich, jedoch komprimierter ab. Erfahrungswerte sprechen für zwei bis drei Monate, bis ein Agent für den produktiven Einsatz reif ist. In dieser Phase greift ein Feedback-Loop, der erwünschtes Verhalten verstärkt und unerwünschtes anmerkt. Im Kern also Reinforcement Learn-ing. Unverzichtbar sind und bleiben dabei definierte Guardrails. Dabei kann eine Risikobewertung einzelner Prozesse hilfreich sein, welche Vorgänge grundsätzlich von Menschen bestätigen sollen.

Einen festen Rahmen setzen

In vielen Unternehmen fehlt die bereits angesprochene Einarbeitungszeit für KI-Agenten. Ein entsprechender Governance-Rahmen sollte deshalb ähnliche Fragen beantworten, wie sie für das menschliche Personal bereits geklärt sind: Wer wählt einen Agenten für eine Aufgabe aus und nach welchen Kriterien? Wer verantwortet die Einarbeitungsphase und wie wird der Fortschritt bewertet? Ab welchem Schwellenwert – etwa Betrag oder Reichweite der Entscheidung – ist eine menschliche Freigabe zwingend? Und: An wen eskaliert der Agent, wenn eine Situation außerhalb seines gelernten Rahmens liegt? Der pragmatischste Einstieg ist dabei ein definierter Anwendungsfall, an dem Guardrails, Feedback-Schleifen und Eskalationswege getestet werden, vor einem Einsatz im produktiven Betrieb. Wer diesen Aufbau einmal durchlaufen hat, kann ihn deutlich schneller auf den nächsten Anwendungsfall übertragen.



  • KI und Hochleistungscomputer beschleunigen Forschung

    KI und Hochleistungscomputer beschleunigen Forschung

    Materialwissenschaft KI und Hochleistungscomputer beschleunigen Forschung Forschende gehen davon aus, ihre Arbeit mit einer Kombination aus künstlicher Intelligenz (KI) und Cloud Computing auf ein Tempo beschleunigen zu können, das bis…

    mehr lesen: KI und Hochleistungscomputer beschleunigen Forschung

  • Antrieb 4.0: Forschung für zukunftsfähige Antriebslösungen

    Antrieb 4.0: Forschung für zukunftsfähige Antriebslösungen

    Antriebe der Zukunft entwickeln Antrieb 4.0: Forschung für zukunftsfähige Antriebslösungen Im Forschungsprojekt Antrieb 4.0 sollen Ansätze für mehr Effizienz und Nachhaltigkeit in Antriebssystemen entwickelt werden. Ein Use Case zielt darauf…

    mehr lesen: Antrieb 4.0: Forschung für zukunftsfähige Antriebslösungen

  • Die industrielle Bildverarbeitung in der Automobilbranche

    Die industrielle Bildverarbeitung in der Automobilbranche

    Vergleich zwischen Deutschland und Großbritannien Die industrielle Bildverarbeitung in der Automobilbranche 43 Prozent der deutschen Automotive-Unternehmen setzen KI in der Bildverarbeitung ein. In Großbritannien sind es mehr als die Hälfte.…

    mehr lesen: Die industrielle Bildverarbeitung in der Automobilbranche

  • Warum Unternehmen zu einem APS-System greifen

    Warum Unternehmen zu einem APS-System greifen

    Im Maschinen- und Anlagenbau sind effiziente Fertigungs- und Planungsprozesse unerlässlich. Advanced-Planning-and-Scheduling-Systeme (APS) gewinnen in diesem Zusammenhang an Bedeutung. Der Aachener Softwarespezialist Inform hat in einer Kundenbefragung die Ziele und Einflussfaktoren…

    mehr lesen: Warum Unternehmen zu einem APS-System greifen

  • Welche Security-Themen Unternehmen auf dem Zettel haben sollten

    Welche Security-Themen Unternehmen auf dem Zettel haben sollten

    Kyndryl-Prognosen für Cyber-Sicherheit Welche Security-Themen Unternehmen auf dem Zettel haben sollten Cybersicherheit wird Unternehmen auch im kommenden Jahr nicht loslassen. Für den IT-Dienstleister Kyndryl kristallisieren sich dabei vor allem fünf…

    mehr lesen: Welche Security-Themen Unternehmen auf dem Zettel haben sollten

  • Neue Technologien adaptiv regulieren

    Neue Technologien adaptiv regulieren

    Interdisziplinäre Forschung an der Universität Freiburg Neue Technologien adaptiv regulieren Voraussichtlich 2024 soll der EU AI Act in Kraft treten. Er unterscheidet verschiedene Systeme von künstlicher Intelligenz (KI) nach ihrem…

    mehr lesen: Neue Technologien adaptiv regulieren

  • Fünf Trends in der KI-gesteuerten Authentifizierung

    Fünf Trends in der KI-gesteuerten Authentifizierung

    Künstliche Intelligenz im CIAM Fünf Trends in der KI-gesteuerten Authentifizierung Die Diskussion rund um künstliche Intelligenz reicht von möglichen Einsatzszenarien bis zur Wahrung der Datenschutzrichtlinien. Und laut einer Studie des…

    mehr lesen: Fünf Trends in der KI-gesteuerten Authentifizierung

  • IBM und Meta starten AI Alliance

    IBM und Meta starten AI Alliance

    Gemeinsam mit Meta startet IBM die AI Alliance, die mehr als 50 Unternehmen und Institutionen zusammenbringt. Ziel ist die Förderung offener, sicherer und vertrauenswürdiger künstlicher Intelligenz.

    mehr lesen: IBM und Meta starten AI Alliance

  • Das beliebteste Passwort 2023 ist 123456789

    Das beliebteste Passwort 2023 ist 123456789

    Das Team von Prof. Christian Dörr, Leiter des Fachbereichs ’Cybersecurity – Enterprise Security’ am Hasso-Plattner-Institut, hat Passwortlisten ausgewertet, die durch gehackte Online-Dienste im Netz gelandet sind. Besonderes beliebt ist demnach…

    mehr lesen: Das beliebteste Passwort 2023 ist 123456789

  • Hexagon und JSOL Corporation arbeiten zusammen

    Hexagon und JSOL Corporation arbeiten zusammen

    Virtuelles Prototyping Hexagon und JSOL Corporation arbeiten zusammen Im Rahmen einer strategischen Partnerschaft wollen Hexagon und die JSOL Corporation virtuelles Prototyping von Elektroantriebssträngen vorantreiben.

    mehr lesen: Hexagon und JSOL Corporation arbeiten zusammen

  • Bechtle ernennt Marijke Kasius zur Vice President

    Bechtle ernennt Marijke Kasius zur Vice President

    Neue Position in den Niederlanden Bechtle ernennt Marijke Kasius zur Vice President Das IT-Systemhaus Bechtle verändert die Führungsstruktur und beruft Marijke Kasius zur Vice President für die Bechtle-Unternehmen in den…

    mehr lesen: Bechtle ernennt Marijke Kasius zur Vice President

  • VDMA zeichnet Nachwuchstalente aus

    VDMA zeichnet Nachwuchstalente aus

    Nachwuchspreis ’Digitalisierung im Maschinenbau’ VDMA zeichnet Nachwuchstalente aus 30 Absolventinnen und Absolventen von Deutschen Hochschulen waren für den Nachwuchspreis ’Digitalisierung im Maschinenbau’ nominiert. Vier von ihnen wurden nun für ihre…

    mehr lesen: VDMA zeichnet Nachwuchstalente aus