Wer hat im Werk das letzte Wort?

Die Aufgabe moderner KI-Governance besteht darin, eine gemeinsame Steuerungslogik für eine Produktionswelt zu schaffen, in der Software, Daten und physische Prozesse immer stärker miteinander verschmelzen.
Die Aufgabe moderner KI-Governance besteht darin, eine gemeinsame Steuerungslogik für eine Produktionswelt zu schaffen, in der Software, Daten und physische Prozesse immer stärker miteinander verschmelzen. – Bild: ©Gorodenkoff/shutterstock.com

Solange KI lediglich Berichte zusammenfasst oder Informationen bereitstellt, sind Fehler meist korrigierbar. Anders sieht es aus, wenn ein Agent Produktionsaufträge priorisiert, Lagerbestände disponiert, Maschinenparameter verändert oder künftig sogar direkt mit Robotik und Automatisierungssystemen interagiert. Dann beeinflusst KI reale Prozesse, Anlagen und Menschen. Die eigentliche Herausforderung besteht dabei nicht darin, einzelne KI-Anwendungen zu kontrollieren. Künftig wird es vielmehr darum gehen, hunderte oder sogar tausende KI-gestützte Assistenten, Agenten und Automatisierungen kontrolliert in eine bestehende Produktionslandschaft einzubetten.

Gleichzeitig verändert sich das Risikoprofil. Eine falsche Entscheidung bei der Maschinensteuerung kann unmittelbare Auswirkungen auf die Qualität, Anlagenverfügbarkeit oder Sicherheit haben. In hochautomatisierten Produktionsumgebungen entstehen dadurch völlig neue Anforderungen an Transparenz, Nachvollziehbarkeit und Kontrolle.

Ein Frage des Risikos

Das Thema Governance sollten Unternehmen entlang der Frage ausrichten, welchen Einfluss ein KI-System auf die Produktion ausübt und welche Risiken damit verbunden sind. Denn nicht jede KI-Anwendung erfordert dieselben Kontrollmechanismen. Am unteren Ende der Kritikalität stehen Systeme, die lediglich Informationen bereitstellen oder Vorschläge unterbreiten. Ein Beispiel dafür ist die automatisierte Erstellung von Schichtübergaben: Die KI sammelt Meldungen, Störungen und relevante Ereignisse und bereitet diese für die nächste Schicht auf. Die Entscheidung verbleibt vollständig beim Menschen. Eine Stufe höher befinden sich Anwendungen, die operative Prozesse unterstützen. Dazu gehören etwa Systeme zur Fertigungsplanung, die Produktionsaufträge priorisieren oder optimale Reihenfolgen für die Bearbeitung berechnen. Auch hier erfolgt die finale Freigabe weiterhin durch einen Mitarbeitenden. Kritischer wird es, wenn die KI Einfluss auf Materialflüsse, Lagerhaltung oder Werkslogistik nimmt. Zwar entstehen fehlerhafte Entscheidungen zunächst außerhalb der eigentlichen Produktion, ihre Auswirkungen zeigen sich jedoch zeitverzögert in Form von Materialengpässen oder Produktionsunterbrechungen. Die höchste Risikoklasse umfasst schließlich Anwendungen, die direkt in Produktionsprozesse eingreifen oder sicherheitsrelevante Entscheidungen treffen. Dazu zählen beispielsweise die autonome Anpassung von Maschinenparametern, Eingriffe in laufende Fertigungsprozesse oder Anwendungen im Umfeld von Robotik und industrieller Automatisierung. Jede Fehlentscheidung kann sich hier direkt auf den Fertigungsprozess auswirken , die von Qualitätseinbußen über Anlagenstillstände bis hin zu Sicherheitsrisiken reichen. Gerade wenn Menschen und Maschinen in derselben Umgebung arbeiten, dürfen autonome Entscheidungen niemals unkontrolliert erfolgen.

Drei Gateways helfen bei der Freigabe

Um diese unterschiedlichen Risikostufen beherrschbar zu machen, ist ein Ansatz sinnvoll, der auf drei aufeinander aufbauenden Gateways basiert. Im Governance-Kontext bezeichnet ein Gateway einen zentralen Kontrollpunkt, eine Schnittstelle oder ein Zugangsportal, das den Daten- oder Informationsfluss zwischen verschiedenen Systemen, Organisationen oder Netzwerken steuert und überwacht. Es fungiert als Regulierungsinstanz, um Sicherheits-, Compliance- und Zugriffsrichtlinien durchzusetzen.

Die erste Ebene betrifft die Plattform selbst. Läuft die Anwendung auf einer freigegebenen Infrastruktur? Ist das zugrunde liegende Modell bereits in die bestehende IT-Landschaft integriert? Existieren definierte Sicherheits- und Betriebsprozesse? Erst wenn diese Voraussetzungen erfüllt sind, sollte eine weitere Bewertung erfolgen. Die zweite Ebene betrachtet die Daten. Handelt es sich um öffentlich verfügbare Informationen, interne Unternehmensdaten oder sogar um sensible Kunden- und Personendaten? Mit zunehmender Kritikalität steigen auch die Anforderungen an Datenschutz, Zugriffsrechte und Nachvollziehbarkeit. Erst auf der dritten Ebene wird der eigentliche Use Case bewertet. Welche Entscheidungen trifft die Anwendung? Welche Auswirkungen können daraus entstehen? Erfolgt die finale Freigabe durch einen Menschen oder arbeitet das System weitgehend autonom? Die Antworten auf diese Fragen bestimmen aus Governance-Sicht den Umgang mit der KI.

Flaschenhals vermeiden

Mit der Verbreitung von Low-Code-Plattformen und agentenbasierten KI-Systemen ergibt sich jedoch eine neue Herausforderung. Immer häufiger entwickeln Fachbereiche eigene Automatisierungstools, ohne dass klassische IT-Projekte dahinterstehen. Gerade in der Produktion verfügen Mitarbeitende oft über ein tiefes Verständnis ihrer Prozesse und erkennen Optimierungspotenziale schneller als zentrale Entwicklungsteams. Eine Governance, die für jeden Anwendungsfall lange Freigabeprozesse erfordert, würde diesem Vorteil entgegenwirken. Hier kommt das Konzept eines zentralen ‚AI Control Towers‘, also einer ‚Kommandozentrale‘, für den gesamten Lebenszyklus der KI ins Spiel.

Ein solcher Ansatz unterstützt Transparenz über vorhandene Anwendungen, Datenquellen und Risiken. Gleichzeitig ermöglicht er eine differenzierte Steuerung. Unkritische Anwendungen können automatisiert freigegeben werden, während risikoreiche Use Cases zusätzliche Prüfungen oder menschliche Entscheidungen erfordern. Unternehmen erhalten darüber hinaus einen strukturierten Überblick über ihre KI-Landschaft. Oft genutzte Anwendungen lassen sich leichter identifizieren, dokumentieren und auf andere Werke übertragen. Anstatt identische Tools mehrfach zu entwickeln, entstehen wiederverwendbare Best Practices, die den unternehmensweiten Rollout beschleunigen.

Oliver Ko%E2%95%A0eth NTT DATA DACH
Bild: NTT Data Deutschland AG

Risiken im Blick haben

In der Fertigungsindustrie vernetzt KI zunehmend klassische IT-Systeme wie ERP-, Planungs- und Analysesysteme mit der Operational Technology (OT), also mit Maschinen, Steuerungen und Fertigungsanlagen. Mit Agentic AI und Physical AI verschwimmen diese Grenzen weiter. Damit steigt auch der Bedarf an einer Governance, die beide Welten gleichermaßen berücksichtigt. Es gilt zudem, Governance nicht als regulatorische Pflichtübung zu betrachten, sondern als Voraussetzung für Innovationen.



  • Forescout ernennt Regional Director für Zentraleuropa

    Forescout ernennt Regional Director für Zentraleuropa

    Forescout Technologies, ein Spezialist für Cybersicherheit, hat die Ernennung von Dirk Decker (Bild) zum Regional Director für Zentraleuropa bekanntgegeben.

    mehr lesen: Forescout ernennt Regional Director für Zentraleuropa

  • Immer weniger Arbeitsplätze hängen vom China-Geschäft ab

    Immer weniger Arbeitsplätze hängen vom China-Geschäft ab

    Die Anzahl der Arbeitsplätze in Deutschland, die vom Export nach China abhängen, ist seit 2021 um rund 40% gesunken, wie eine neue Analyse des Instituts der deutschen Wirtschaft (IW) zeigt.

    mehr lesen: Immer weniger Arbeitsplätze hängen vom China-Geschäft ab

  • Mehr IT-Dienstleister erleben Vorwürfe wegen Schlechtleistung

    Mehr IT-Dienstleister erleben Vorwürfe wegen Schlechtleistung

    Gegen zwei Drittel der IT-Dienstleister wurden im vergangenen Jahr seitens ihrer Auftraggeber Vorwürfe wegen angeblicher Schlechtleistung erhoben.

    mehr lesen: Mehr IT-Dienstleister erleben Vorwürfe wegen Schlechtleistung

  • Enbik und Edgecon gründen Service-Büro

    Enbik und Edgecon gründen Service-Büro

    Enbik, ein in Taiwan beheimateter Hersteller für Industrial Edge Computing und IT-Hardware, und Edgecon gründen in Deggendorf ein Logistik- und Service-Büro für den deutschsprachigen Raum.

    mehr lesen: Enbik und Edgecon gründen Service-Büro

  • Wenn KI-Modelle zum Angriffsziel werden

    Wenn KI-Modelle zum Angriffsziel werden

    Zur Münchner Sicherheitskonferenz (13. bis 15. Februar) hat die Google Threat Intelligence Group (GTIG) einen Bericht veröffentlicht, mit dem die Verfasser die Debatte um KI-gestützte Bedrohungen auf eine operative Ebene…

    mehr lesen: Wenn KI-Modelle zum Angriffsziel werden

  • Ein Tag ohne Internet und alles steht still

    Ein Tag ohne Internet und alles steht still

    Laut einer Untersuchung des Bitkom ist die deutsche Wirtschaft schlecht auf hybride Bedrohungen wie Stromausfälle, Sabotage oder durch Ransomware lahmgelegte Fabriken vorbereitet.

    mehr lesen: Ein Tag ohne Internet und alles steht still

  • Heitec übernimmt Artschwager + Kohl

    Heitec übernimmt Artschwager + Kohl

    Artschwager + Kohl Software ist seit Januar 2026 Teil der Heitec-Gruppe.

    mehr lesen: Heitec übernimmt Artschwager + Kohl

  • Lantek expandiert nach Kanada

    Lantek expandiert nach Kanada

    Lantek, Anbieter von Software für die metallverarbeitende Industrie, gibt die Eröffnung einer Niederlassung in Kanada als Teil seiner Wachstumsstrategie in Nordamerika bekannt.

    mehr lesen: Lantek expandiert nach Kanada

  • All for One Group beteiligt sich an BrightFlare

    All for One Group beteiligt sich an BrightFlare

    Die All for One Group, ein IT-, Consulting- und Service-Provider aus Filderstadt, beteiligt sich an dem österreichischen Cybersecurity-Spezialisten BrightFlare.

    mehr lesen: All for One Group beteiligt sich an BrightFlare

  • Humation nimmt humanzentrierte Automation in den Fokus

    Humation nimmt humanzentrierte Automation in den Fokus

    Wie lassen sich Menschen und Maschinen so zusammenbringen, dass beide voneinander profitieren?

    mehr lesen: Humation nimmt humanzentrierte Automation in den Fokus

  • Webinar: Smart Maintenance mit KI

    Webinar: Smart Maintenance mit KI

    Am 20. Mai 2026 um 14.00 Uhr steht im IT&Production -TechTalk das Thema Smart Maintenance mit KI im Mittelpunkt.

    mehr lesen: Webinar: Smart Maintenance mit KI

  • Rethink! IAM beleuchtet Cybersicherheit

    Rethink! IAM beleuchtet Cybersicherheit

    In einer komplexen Welt, in der alle überall und jederzeit verbunden sind, gilt intelligentes und transparentes Identity & Access Management (IAM) als ein wirksames Mittel zum Schutz der Unternehmens- und…

    mehr lesen: Rethink! IAM beleuchtet Cybersicherheit