Wer hat im Werk das letzte Wort?

Die Aufgabe moderner KI-Governance besteht darin, eine gemeinsame Steuerungslogik für eine Produktionswelt zu schaffen, in der Software, Daten und physische Prozesse immer stärker miteinander verschmelzen.
Die Aufgabe moderner KI-Governance besteht darin, eine gemeinsame Steuerungslogik für eine Produktionswelt zu schaffen, in der Software, Daten und physische Prozesse immer stärker miteinander verschmelzen. – Bild: ©Gorodenkoff/shutterstock.com

Solange KI lediglich Berichte zusammenfasst oder Informationen bereitstellt, sind Fehler meist korrigierbar. Anders sieht es aus, wenn ein Agent Produktionsaufträge priorisiert, Lagerbestände disponiert, Maschinenparameter verändert oder künftig sogar direkt mit Robotik und Automatisierungssystemen interagiert. Dann beeinflusst KI reale Prozesse, Anlagen und Menschen. Die eigentliche Herausforderung besteht dabei nicht darin, einzelne KI-Anwendungen zu kontrollieren. Künftig wird es vielmehr darum gehen, hunderte oder sogar tausende KI-gestützte Assistenten, Agenten und Automatisierungen kontrolliert in eine bestehende Produktionslandschaft einzubetten.

Gleichzeitig verändert sich das Risikoprofil. Eine falsche Entscheidung bei der Maschinensteuerung kann unmittelbare Auswirkungen auf die Qualität, Anlagenverfügbarkeit oder Sicherheit haben. In hochautomatisierten Produktionsumgebungen entstehen dadurch völlig neue Anforderungen an Transparenz, Nachvollziehbarkeit und Kontrolle.

Ein Frage des Risikos

Das Thema Governance sollten Unternehmen entlang der Frage ausrichten, welchen Einfluss ein KI-System auf die Produktion ausübt und welche Risiken damit verbunden sind. Denn nicht jede KI-Anwendung erfordert dieselben Kontrollmechanismen. Am unteren Ende der Kritikalität stehen Systeme, die lediglich Informationen bereitstellen oder Vorschläge unterbreiten. Ein Beispiel dafür ist die automatisierte Erstellung von Schichtübergaben: Die KI sammelt Meldungen, Störungen und relevante Ereignisse und bereitet diese für die nächste Schicht auf. Die Entscheidung verbleibt vollständig beim Menschen. Eine Stufe höher befinden sich Anwendungen, die operative Prozesse unterstützen. Dazu gehören etwa Systeme zur Fertigungsplanung, die Produktionsaufträge priorisieren oder optimale Reihenfolgen für die Bearbeitung berechnen. Auch hier erfolgt die finale Freigabe weiterhin durch einen Mitarbeitenden. Kritischer wird es, wenn die KI Einfluss auf Materialflüsse, Lagerhaltung oder Werkslogistik nimmt. Zwar entstehen fehlerhafte Entscheidungen zunächst außerhalb der eigentlichen Produktion, ihre Auswirkungen zeigen sich jedoch zeitverzögert in Form von Materialengpässen oder Produktionsunterbrechungen. Die höchste Risikoklasse umfasst schließlich Anwendungen, die direkt in Produktionsprozesse eingreifen oder sicherheitsrelevante Entscheidungen treffen. Dazu zählen beispielsweise die autonome Anpassung von Maschinenparametern, Eingriffe in laufende Fertigungsprozesse oder Anwendungen im Umfeld von Robotik und industrieller Automatisierung. Jede Fehlentscheidung kann sich hier direkt auf den Fertigungsprozess auswirken , die von Qualitätseinbußen über Anlagenstillstände bis hin zu Sicherheitsrisiken reichen. Gerade wenn Menschen und Maschinen in derselben Umgebung arbeiten, dürfen autonome Entscheidungen niemals unkontrolliert erfolgen.

Drei Gateways helfen bei der Freigabe

Um diese unterschiedlichen Risikostufen beherrschbar zu machen, ist ein Ansatz sinnvoll, der auf drei aufeinander aufbauenden Gateways basiert. Im Governance-Kontext bezeichnet ein Gateway einen zentralen Kontrollpunkt, eine Schnittstelle oder ein Zugangsportal, das den Daten- oder Informationsfluss zwischen verschiedenen Systemen, Organisationen oder Netzwerken steuert und überwacht. Es fungiert als Regulierungsinstanz, um Sicherheits-, Compliance- und Zugriffsrichtlinien durchzusetzen.

Die erste Ebene betrifft die Plattform selbst. Läuft die Anwendung auf einer freigegebenen Infrastruktur? Ist das zugrunde liegende Modell bereits in die bestehende IT-Landschaft integriert? Existieren definierte Sicherheits- und Betriebsprozesse? Erst wenn diese Voraussetzungen erfüllt sind, sollte eine weitere Bewertung erfolgen. Die zweite Ebene betrachtet die Daten. Handelt es sich um öffentlich verfügbare Informationen, interne Unternehmensdaten oder sogar um sensible Kunden- und Personendaten? Mit zunehmender Kritikalität steigen auch die Anforderungen an Datenschutz, Zugriffsrechte und Nachvollziehbarkeit. Erst auf der dritten Ebene wird der eigentliche Use Case bewertet. Welche Entscheidungen trifft die Anwendung? Welche Auswirkungen können daraus entstehen? Erfolgt die finale Freigabe durch einen Menschen oder arbeitet das System weitgehend autonom? Die Antworten auf diese Fragen bestimmen aus Governance-Sicht den Umgang mit der KI.

Flaschenhals vermeiden

Mit der Verbreitung von Low-Code-Plattformen und agentenbasierten KI-Systemen ergibt sich jedoch eine neue Herausforderung. Immer häufiger entwickeln Fachbereiche eigene Automatisierungstools, ohne dass klassische IT-Projekte dahinterstehen. Gerade in der Produktion verfügen Mitarbeitende oft über ein tiefes Verständnis ihrer Prozesse und erkennen Optimierungspotenziale schneller als zentrale Entwicklungsteams. Eine Governance, die für jeden Anwendungsfall lange Freigabeprozesse erfordert, würde diesem Vorteil entgegenwirken. Hier kommt das Konzept eines zentralen ‚AI Control Towers‘, also einer ‚Kommandozentrale‘, für den gesamten Lebenszyklus der KI ins Spiel.

Ein solcher Ansatz unterstützt Transparenz über vorhandene Anwendungen, Datenquellen und Risiken. Gleichzeitig ermöglicht er eine differenzierte Steuerung. Unkritische Anwendungen können automatisiert freigegeben werden, während risikoreiche Use Cases zusätzliche Prüfungen oder menschliche Entscheidungen erfordern. Unternehmen erhalten darüber hinaus einen strukturierten Überblick über ihre KI-Landschaft. Oft genutzte Anwendungen lassen sich leichter identifizieren, dokumentieren und auf andere Werke übertragen. Anstatt identische Tools mehrfach zu entwickeln, entstehen wiederverwendbare Best Practices, die den unternehmensweiten Rollout beschleunigen.

Oliver Ko%E2%95%A0eth NTT DATA DACH
Bild: NTT Data Deutschland AG

Risiken im Blick haben

In der Fertigungsindustrie vernetzt KI zunehmend klassische IT-Systeme wie ERP-, Planungs- und Analysesysteme mit der Operational Technology (OT), also mit Maschinen, Steuerungen und Fertigungsanlagen. Mit Agentic AI und Physical AI verschwimmen diese Grenzen weiter. Damit steigt auch der Bedarf an einer Governance, die beide Welten gleichermaßen berücksichtigt. Es gilt zudem, Governance nicht als regulatorische Pflichtübung zu betrachten, sondern als Voraussetzung für Innovationen.



  • ZVEI sieht weiteren Vereinfachungsbedarf der KI-Regulatorik

    ZVEI sieht weiteren Vereinfachungsbedarf der KI-Regulatorik

    Das Plenum des EU-Parlaments stimmt in der ersten Lesung über seine Position zum KI-Omnibus ab. ZVEI-Geschäftsführerin Sarah Bäumchen unterstützt in den Reformwillen und fordert weitere Vereinfachungen beim AI Act.

    mehr lesen: ZVEI sieht weiteren Vereinfachungsbedarf der KI-Regulatorik

  • Forschungsbeirat Industrie 4.0 widmet sich Physical AI

    Forschungsbeirat Industrie 4.0 widmet sich Physical AI

    Die dritte Ausgabe von ‚Industrie 4.0 Forschung in Kürze‘ des Forschungsbeirats Industrie 4.0 widmet sich den Möglichkeiten von Physical Artificial Intelligence (Physical AI) in der Industrie.

    mehr lesen: Forschungsbeirat Industrie 4.0 widmet sich Physical AI

  • Logimat-Preis für bestes Produkt verliehen

    Logimat-Preis für bestes Produkt verliehen

    Im Rahmen der Logimatwurde der Preis ‚Logimat Best Product‘ in drei Kategorien verliehen.

    mehr lesen: Logimat-Preis für bestes Produkt verliehen

  • Spezielle Chips für reduzierten KI-Energieverbrauch

    Spezielle Chips für reduzierten KI-Energieverbrauch

    Im Rahmen des KI-Leuchtturmprojekts ‚Eki‘ hat ein Forschungsteam unter der Leitung der Universität Paderborn an der Verbesserung der Energieeffizienz von KI-Systemen gearbeitet und Methoden entwickelt, mit denen sich der Energieverbrauch…

    mehr lesen: Spezielle Chips für reduzierten KI-Energieverbrauch

  • Neues Mitglied im Aufsichtsrat von Wibu-Systems

    Neues Mitglied im Aufsichtsrat von Wibu-Systems

    Wibu-Systems, ein Spezialist für Softwareschutz, Lizenzierung und Cybersicherheit, hat Prof. Dr. Jörn Müller-Quade in den Aufsichtsrat berufen.

    mehr lesen: Neues Mitglied im Aufsichtsrat von Wibu-Systems

  • SEW-Eurodrive und Safelog entwickeln Softwaresystem für die Intralogisik

    SEW-Eurodrive und Safelog entwickeln Softwaresystem für die Intralogisik

    Im Rahmen der Fachmesse Logimat haben SEW-Eurodrive und Safelog eine strategische Partnerschaft bekannt gegeben.

    mehr lesen: SEW-Eurodrive und Safelog entwickeln Softwaresystem für die Intralogisik

  • KIT-Forschende entwickeln Technologie für lichtbasierte Datenverbindungen

    KIT-Forschende entwickeln Technologie für lichtbasierte Datenverbindungen

    Ein neuartiges Bauteil, das durch eine fortschrittliche Fertigungstechnologie eine sehr schnelle, sparsame und verlässliche Datenübertragung ermöglicht, haben Forschende des Karlsruher Instituts für Technologie (KIT) und der École Polytechnique Fédérale de…

    mehr lesen: KIT-Forschende entwickeln Technologie für lichtbasierte Datenverbindungen

  • PTC tritt dem ZVEI bei

    PTC tritt dem ZVEI bei

    PTC ist dem ZVEI beigetreten und will in diesem Rahmen seine Expertise in den Bereichen digitale Geschäftsmodelle, industrielle künstliche Intelligenz (KI) und datenbasierte Wertschöpfung in die Verbandsarbeit einbringen.

    mehr lesen: PTC tritt dem ZVEI bei

  • Unternehmen setzen auf KI, aber es muss sich auch lohnen

    Unternehmen setzen auf KI, aber es muss sich auch lohnen

    Laut einer Untersuchung von TE Connectivity treibt die deutsche Industrie den Einsatz von künstlicher Intelligenz und Automatisierung mit hoher Geschwindigkeit voran.

    mehr lesen: Unternehmen setzen auf KI, aber es muss sich auch lohnen

  • Ein Chatbot für den Wissenstransfer

    Ein Chatbot für den Wissenstransfer

    Wenn Fachkräfte ein Unternehmen verlassen, geht auch oft Knowhow verloren. Im Projekt ‚Stark‘ untersuchen Forschende des Fraunhofer IPK gemeinsam mit der BSP Business and Law School – Hochschule für Management…

    mehr lesen: Ein Chatbot für den Wissenstransfer

  • Quantencomputer und klassische Rechner optimieren gemeinsam

    Quantencomputer und klassische Rechner optimieren gemeinsam

    Klassische Computer können viele Optimierungsprobleme wie etwa das ‚Problem des Handlungsreisenden‘ nur näherungsweise knacken, aber nicht vollständig und oft nur unter langer Laufzeit.

    mehr lesen: Quantencomputer und klassische Rechner optimieren gemeinsam

  • Digitale Kreislaufwirtschaft in dezentraler Fabrik

    Digitale Kreislaufwirtschaft in dezentraler Fabrik

    Im Projekt ‚Panda‘ setzen die Beteiligten auf digitale Produktpässe und künstliche Intelligenz (KI), um Recycling und Demontage von Produkten effizienter zu machen.

    mehr lesen: Digitale Kreislaufwirtschaft in dezentraler Fabrik