Wer hat im Werk das letzte Wort?

Die Aufgabe moderner KI-Governance besteht darin, eine gemeinsame Steuerungslogik für eine Produktionswelt zu schaffen, in der Software, Daten und physische Prozesse immer stärker miteinander verschmelzen.
Die Aufgabe moderner KI-Governance besteht darin, eine gemeinsame Steuerungslogik für eine Produktionswelt zu schaffen, in der Software, Daten und physische Prozesse immer stärker miteinander verschmelzen. – Bild: ©Gorodenkoff/shutterstock.com

Solange KI lediglich Berichte zusammenfasst oder Informationen bereitstellt, sind Fehler meist korrigierbar. Anders sieht es aus, wenn ein Agent Produktionsaufträge priorisiert, Lagerbestände disponiert, Maschinenparameter verändert oder künftig sogar direkt mit Robotik und Automatisierungssystemen interagiert. Dann beeinflusst KI reale Prozesse, Anlagen und Menschen. Die eigentliche Herausforderung besteht dabei nicht darin, einzelne KI-Anwendungen zu kontrollieren. Künftig wird es vielmehr darum gehen, hunderte oder sogar tausende KI-gestützte Assistenten, Agenten und Automatisierungen kontrolliert in eine bestehende Produktionslandschaft einzubetten.

Gleichzeitig verändert sich das Risikoprofil. Eine falsche Entscheidung bei der Maschinensteuerung kann unmittelbare Auswirkungen auf die Qualität, Anlagenverfügbarkeit oder Sicherheit haben. In hochautomatisierten Produktionsumgebungen entstehen dadurch völlig neue Anforderungen an Transparenz, Nachvollziehbarkeit und Kontrolle.

Ein Frage des Risikos

Das Thema Governance sollten Unternehmen entlang der Frage ausrichten, welchen Einfluss ein KI-System auf die Produktion ausübt und welche Risiken damit verbunden sind. Denn nicht jede KI-Anwendung erfordert dieselben Kontrollmechanismen. Am unteren Ende der Kritikalität stehen Systeme, die lediglich Informationen bereitstellen oder Vorschläge unterbreiten. Ein Beispiel dafür ist die automatisierte Erstellung von Schichtübergaben: Die KI sammelt Meldungen, Störungen und relevante Ereignisse und bereitet diese für die nächste Schicht auf. Die Entscheidung verbleibt vollständig beim Menschen. Eine Stufe höher befinden sich Anwendungen, die operative Prozesse unterstützen. Dazu gehören etwa Systeme zur Fertigungsplanung, die Produktionsaufträge priorisieren oder optimale Reihenfolgen für die Bearbeitung berechnen. Auch hier erfolgt die finale Freigabe weiterhin durch einen Mitarbeitenden. Kritischer wird es, wenn die KI Einfluss auf Materialflüsse, Lagerhaltung oder Werkslogistik nimmt. Zwar entstehen fehlerhafte Entscheidungen zunächst außerhalb der eigentlichen Produktion, ihre Auswirkungen zeigen sich jedoch zeitverzögert in Form von Materialengpässen oder Produktionsunterbrechungen. Die höchste Risikoklasse umfasst schließlich Anwendungen, die direkt in Produktionsprozesse eingreifen oder sicherheitsrelevante Entscheidungen treffen. Dazu zählen beispielsweise die autonome Anpassung von Maschinenparametern, Eingriffe in laufende Fertigungsprozesse oder Anwendungen im Umfeld von Robotik und industrieller Automatisierung. Jede Fehlentscheidung kann sich hier direkt auf den Fertigungsprozess auswirken , die von Qualitätseinbußen über Anlagenstillstände bis hin zu Sicherheitsrisiken reichen. Gerade wenn Menschen und Maschinen in derselben Umgebung arbeiten, dürfen autonome Entscheidungen niemals unkontrolliert erfolgen.

Drei Gateways helfen bei der Freigabe

Um diese unterschiedlichen Risikostufen beherrschbar zu machen, ist ein Ansatz sinnvoll, der auf drei aufeinander aufbauenden Gateways basiert. Im Governance-Kontext bezeichnet ein Gateway einen zentralen Kontrollpunkt, eine Schnittstelle oder ein Zugangsportal, das den Daten- oder Informationsfluss zwischen verschiedenen Systemen, Organisationen oder Netzwerken steuert und überwacht. Es fungiert als Regulierungsinstanz, um Sicherheits-, Compliance- und Zugriffsrichtlinien durchzusetzen.

Die erste Ebene betrifft die Plattform selbst. Läuft die Anwendung auf einer freigegebenen Infrastruktur? Ist das zugrunde liegende Modell bereits in die bestehende IT-Landschaft integriert? Existieren definierte Sicherheits- und Betriebsprozesse? Erst wenn diese Voraussetzungen erfüllt sind, sollte eine weitere Bewertung erfolgen. Die zweite Ebene betrachtet die Daten. Handelt es sich um öffentlich verfügbare Informationen, interne Unternehmensdaten oder sogar um sensible Kunden- und Personendaten? Mit zunehmender Kritikalität steigen auch die Anforderungen an Datenschutz, Zugriffsrechte und Nachvollziehbarkeit. Erst auf der dritten Ebene wird der eigentliche Use Case bewertet. Welche Entscheidungen trifft die Anwendung? Welche Auswirkungen können daraus entstehen? Erfolgt die finale Freigabe durch einen Menschen oder arbeitet das System weitgehend autonom? Die Antworten auf diese Fragen bestimmen aus Governance-Sicht den Umgang mit der KI.

Flaschenhals vermeiden

Mit der Verbreitung von Low-Code-Plattformen und agentenbasierten KI-Systemen ergibt sich jedoch eine neue Herausforderung. Immer häufiger entwickeln Fachbereiche eigene Automatisierungstools, ohne dass klassische IT-Projekte dahinterstehen. Gerade in der Produktion verfügen Mitarbeitende oft über ein tiefes Verständnis ihrer Prozesse und erkennen Optimierungspotenziale schneller als zentrale Entwicklungsteams. Eine Governance, die für jeden Anwendungsfall lange Freigabeprozesse erfordert, würde diesem Vorteil entgegenwirken. Hier kommt das Konzept eines zentralen ‚AI Control Towers‘, also einer ‚Kommandozentrale‘, für den gesamten Lebenszyklus der KI ins Spiel.

Ein solcher Ansatz unterstützt Transparenz über vorhandene Anwendungen, Datenquellen und Risiken. Gleichzeitig ermöglicht er eine differenzierte Steuerung. Unkritische Anwendungen können automatisiert freigegeben werden, während risikoreiche Use Cases zusätzliche Prüfungen oder menschliche Entscheidungen erfordern. Unternehmen erhalten darüber hinaus einen strukturierten Überblick über ihre KI-Landschaft. Oft genutzte Anwendungen lassen sich leichter identifizieren, dokumentieren und auf andere Werke übertragen. Anstatt identische Tools mehrfach zu entwickeln, entstehen wiederverwendbare Best Practices, die den unternehmensweiten Rollout beschleunigen.

Oliver Ko%E2%95%A0eth NTT DATA DACH
Bild: NTT Data Deutschland AG

Risiken im Blick haben

In der Fertigungsindustrie vernetzt KI zunehmend klassische IT-Systeme wie ERP-, Planungs- und Analysesysteme mit der Operational Technology (OT), also mit Maschinen, Steuerungen und Fertigungsanlagen. Mit Agentic AI und Physical AI verschwimmen diese Grenzen weiter. Damit steigt auch der Bedarf an einer Governance, die beide Welten gleichermaßen berücksichtigt. Es gilt zudem, Governance nicht als regulatorische Pflichtübung zu betrachten, sondern als Voraussetzung für Innovationen.



  • Mehr als 5.000 Infektionsversuche durch Revil

    Mehr als 5.000 Infektionsversuche durch Revil

    Durch einen Angriff der Ransomware-Gruppe Revil musste u.a. eine schwedische Supermarktkette vorübergehend mehr als 800 Filialen schließen. Laut einer Analyse des Softwareanbieters Kaspersky gab es weltweit mehr als 5.000 Infektionsversuche…

    mehr lesen: Mehr als 5.000 Infektionsversuche durch Revil

  • CO2 als Rohstoff in industriellen Kreisläufen

    CO2 als Rohstoff in industriellen Kreisläufen

    Treibhausgas-Emissionen zu reduzieren ist eine große Herausforderung. Bei den anthropogenen Treibhausgasemissionen gehört CO2 aus der Verbrennung von fossilen Brennstoffen sowie aus industriellen Prozessen zu den Hauptverursachern des Treibhauseffekts. Auf der…

    mehr lesen: CO2 als Rohstoff in industriellen Kreisläufen

  • SSI Schäfer und Swan bündeln SAP-Kompetenzen

    SSI Schäfer und Swan bündeln SAP-Kompetenzen

    SSI Schäfer wird Mehrheitseigner des Logistik-Spezialisten Swan. Im Zuge der Vereinbarung übernimmt Swan alle Mitarbeiter des SSI-SAP-Geschäftsbereichs.

    mehr lesen: SSI Schäfer und Swan bündeln SAP-Kompetenzen

  • Avanade ernennt Annika Grosse zum Data & AI Lead

    Avanade ernennt Annika Grosse zum Data & AI Lead

    Annika Grosse soll bei Avanade als Data & AI Lead für Europa die Angebotsentwicklung für Azure-KI leiten.

    mehr lesen: Avanade ernennt Annika Grosse zum Data & AI Lead

  • Neues Verfahren trennt Aluminium-Verbundwerkstoffe

    Neues Verfahren trennt Aluminium-Verbundwerkstoffe

    In Deutschland landen jährlich rund 18,7Mio.t Verpackungen im Abfall. Durch neue Technologien ist es nun möglich, Aluminium-Verbundwerkstoffe in ihre Einzelteile zu zerlegen. Hochleistungsfähige Klebstoffe unterstützen diesen Prozess.

    mehr lesen: Neues Verfahren trennt Aluminium-Verbundwerkstoffe

  • Autobauer blicken bescheidener in die Zukunft

    Autobauer blicken bescheidener in die Zukunft

    Nach aktuellen Zahlen des Ifo Instituts beurteilen die deutschen Autobauer ihre Geschäftslage derzeit so gut wie seit August 2018 nicht mehr. Bei den Erwartungen zeigen sich die Unternehmen jedoch verhaltener.

    mehr lesen: Autobauer blicken bescheidener in die Zukunft

  • Auftragseingang im Maschinen- und Anlagenbau wächst erneut

    Auftragseingang im Maschinen- und Anlagenbau wächst erneut

    Die Maschinen- und Anlagenbauer konnten im Mai ihre Auftragsbücher erneut füllen. Insgesamt verbuchte die Branche einen Zuwachs der Bestellungen von real 47 Prozent zum – vergleichsweise schwachen – Vorjahr.

    mehr lesen: Auftragseingang im Maschinen- und Anlagenbau wächst erneut

  • Security-Check für Unternehmen

    Security-Check für Unternehmen

    Produzierende Unternehmen, die ihre Maschinen und Anlagen vernetzen, sind durch Sicherheitslücken und Angriffe auf ihre IT-Infrastruktur oftmals gefährdet. Wissenschaftler möchten nun in einem AiF-geförderten Forschungsprojekt gemeinsam mit kleinen und mittleren…

    mehr lesen: Security-Check für Unternehmen

  • 6G-Forschung für die Zukunft

    6G-Forschung für die Zukunft

    Unter Koordinierung des DFKI forschen im Projekt Open6GHub 17 Projektpartner bereits an der nächsten Mobilfunkgeneration 6G.

    mehr lesen: 6G-Forschung für die Zukunft

  • China steigert Industrieroboter-Absatz

    China steigert Industrieroboter-Absatz

    Weltweit waren die Roboterinstallationen im vergangenen Jahr rückläufig, in China stieg jedoch die Zahl der verkauften Industrieroboter. Für Europa und Nordamerika erwartet die International Federation of Robotics ein starkes Wachstum…

    mehr lesen: China steigert Industrieroboter-Absatz

  • Partnerschaft zwischen AWS und Salesforce

    Partnerschaft zwischen AWS und Salesforce

    Salesforce und AWS wollen ihre jeweiligen Lösungen im Rahmen einer Partnerschaft neu integrieren, so dass Anwender die Lösungen in Kombination nutzen können.

    mehr lesen: Partnerschaft zwischen AWS und Salesforce

  • Paul Repmann wird Manager Sales & Marketing in Chicago

    Paul Repmann wird Manager Sales & Marketing in Chicago

    MPDV will mit Paul Repmann als Manager für Sales & Marketing die Präsenz in Nordamerika stärken.

    mehr lesen: Paul Repmann wird Manager Sales & Marketing in Chicago