Wer hat im Werk das letzte Wort?

Die Aufgabe moderner KI-Governance besteht darin, eine gemeinsame Steuerungslogik für eine Produktionswelt zu schaffen, in der Software, Daten und physische Prozesse immer stärker miteinander verschmelzen.
Die Aufgabe moderner KI-Governance besteht darin, eine gemeinsame Steuerungslogik für eine Produktionswelt zu schaffen, in der Software, Daten und physische Prozesse immer stärker miteinander verschmelzen. – Bild: ©Gorodenkoff/shutterstock.com

Solange KI lediglich Berichte zusammenfasst oder Informationen bereitstellt, sind Fehler meist korrigierbar. Anders sieht es aus, wenn ein Agent Produktionsaufträge priorisiert, Lagerbestände disponiert, Maschinenparameter verändert oder künftig sogar direkt mit Robotik und Automatisierungssystemen interagiert. Dann beeinflusst KI reale Prozesse, Anlagen und Menschen. Die eigentliche Herausforderung besteht dabei nicht darin, einzelne KI-Anwendungen zu kontrollieren. Künftig wird es vielmehr darum gehen, hunderte oder sogar tausende KI-gestützte Assistenten, Agenten und Automatisierungen kontrolliert in eine bestehende Produktionslandschaft einzubetten.

Gleichzeitig verändert sich das Risikoprofil. Eine falsche Entscheidung bei der Maschinensteuerung kann unmittelbare Auswirkungen auf die Qualität, Anlagenverfügbarkeit oder Sicherheit haben. In hochautomatisierten Produktionsumgebungen entstehen dadurch völlig neue Anforderungen an Transparenz, Nachvollziehbarkeit und Kontrolle.

Ein Frage des Risikos

Das Thema Governance sollten Unternehmen entlang der Frage ausrichten, welchen Einfluss ein KI-System auf die Produktion ausübt und welche Risiken damit verbunden sind. Denn nicht jede KI-Anwendung erfordert dieselben Kontrollmechanismen. Am unteren Ende der Kritikalität stehen Systeme, die lediglich Informationen bereitstellen oder Vorschläge unterbreiten. Ein Beispiel dafür ist die automatisierte Erstellung von Schichtübergaben: Die KI sammelt Meldungen, Störungen und relevante Ereignisse und bereitet diese für die nächste Schicht auf. Die Entscheidung verbleibt vollständig beim Menschen. Eine Stufe höher befinden sich Anwendungen, die operative Prozesse unterstützen. Dazu gehören etwa Systeme zur Fertigungsplanung, die Produktionsaufträge priorisieren oder optimale Reihenfolgen für die Bearbeitung berechnen. Auch hier erfolgt die finale Freigabe weiterhin durch einen Mitarbeitenden. Kritischer wird es, wenn die KI Einfluss auf Materialflüsse, Lagerhaltung oder Werkslogistik nimmt. Zwar entstehen fehlerhafte Entscheidungen zunächst außerhalb der eigentlichen Produktion, ihre Auswirkungen zeigen sich jedoch zeitverzögert in Form von Materialengpässen oder Produktionsunterbrechungen. Die höchste Risikoklasse umfasst schließlich Anwendungen, die direkt in Produktionsprozesse eingreifen oder sicherheitsrelevante Entscheidungen treffen. Dazu zählen beispielsweise die autonome Anpassung von Maschinenparametern, Eingriffe in laufende Fertigungsprozesse oder Anwendungen im Umfeld von Robotik und industrieller Automatisierung. Jede Fehlentscheidung kann sich hier direkt auf den Fertigungsprozess auswirken , die von Qualitätseinbußen über Anlagenstillstände bis hin zu Sicherheitsrisiken reichen. Gerade wenn Menschen und Maschinen in derselben Umgebung arbeiten, dürfen autonome Entscheidungen niemals unkontrolliert erfolgen.

Drei Gateways helfen bei der Freigabe

Um diese unterschiedlichen Risikostufen beherrschbar zu machen, ist ein Ansatz sinnvoll, der auf drei aufeinander aufbauenden Gateways basiert. Im Governance-Kontext bezeichnet ein Gateway einen zentralen Kontrollpunkt, eine Schnittstelle oder ein Zugangsportal, das den Daten- oder Informationsfluss zwischen verschiedenen Systemen, Organisationen oder Netzwerken steuert und überwacht. Es fungiert als Regulierungsinstanz, um Sicherheits-, Compliance- und Zugriffsrichtlinien durchzusetzen.

Die erste Ebene betrifft die Plattform selbst. Läuft die Anwendung auf einer freigegebenen Infrastruktur? Ist das zugrunde liegende Modell bereits in die bestehende IT-Landschaft integriert? Existieren definierte Sicherheits- und Betriebsprozesse? Erst wenn diese Voraussetzungen erfüllt sind, sollte eine weitere Bewertung erfolgen. Die zweite Ebene betrachtet die Daten. Handelt es sich um öffentlich verfügbare Informationen, interne Unternehmensdaten oder sogar um sensible Kunden- und Personendaten? Mit zunehmender Kritikalität steigen auch die Anforderungen an Datenschutz, Zugriffsrechte und Nachvollziehbarkeit. Erst auf der dritten Ebene wird der eigentliche Use Case bewertet. Welche Entscheidungen trifft die Anwendung? Welche Auswirkungen können daraus entstehen? Erfolgt die finale Freigabe durch einen Menschen oder arbeitet das System weitgehend autonom? Die Antworten auf diese Fragen bestimmen aus Governance-Sicht den Umgang mit der KI.

Flaschenhals vermeiden

Mit der Verbreitung von Low-Code-Plattformen und agentenbasierten KI-Systemen ergibt sich jedoch eine neue Herausforderung. Immer häufiger entwickeln Fachbereiche eigene Automatisierungstools, ohne dass klassische IT-Projekte dahinterstehen. Gerade in der Produktion verfügen Mitarbeitende oft über ein tiefes Verständnis ihrer Prozesse und erkennen Optimierungspotenziale schneller als zentrale Entwicklungsteams. Eine Governance, die für jeden Anwendungsfall lange Freigabeprozesse erfordert, würde diesem Vorteil entgegenwirken. Hier kommt das Konzept eines zentralen ‚AI Control Towers‘, also einer ‚Kommandozentrale‘, für den gesamten Lebenszyklus der KI ins Spiel.

Ein solcher Ansatz unterstützt Transparenz über vorhandene Anwendungen, Datenquellen und Risiken. Gleichzeitig ermöglicht er eine differenzierte Steuerung. Unkritische Anwendungen können automatisiert freigegeben werden, während risikoreiche Use Cases zusätzliche Prüfungen oder menschliche Entscheidungen erfordern. Unternehmen erhalten darüber hinaus einen strukturierten Überblick über ihre KI-Landschaft. Oft genutzte Anwendungen lassen sich leichter identifizieren, dokumentieren und auf andere Werke übertragen. Anstatt identische Tools mehrfach zu entwickeln, entstehen wiederverwendbare Best Practices, die den unternehmensweiten Rollout beschleunigen.

Oliver Ko%E2%95%A0eth NTT DATA DACH
Bild: NTT Data Deutschland AG

Risiken im Blick haben

In der Fertigungsindustrie vernetzt KI zunehmend klassische IT-Systeme wie ERP-, Planungs- und Analysesysteme mit der Operational Technology (OT), also mit Maschinen, Steuerungen und Fertigungsanlagen. Mit Agentic AI und Physical AI verschwimmen diese Grenzen weiter. Damit steigt auch der Bedarf an einer Governance, die beide Welten gleichermaßen berücksichtigt. Es gilt zudem, Governance nicht als regulatorische Pflichtübung zu betrachten, sondern als Voraussetzung für Innovationen.



  • 1,18 Millionen offene Stellen im vierten Quartal

    1,18 Millionen offene Stellen im vierten Quartal

    231.000 offene Stellen weniger als im vierten Quartal 2019 verzeichnet das Institut für Arbeitsmarkt und Berufsforschung in der aktuellen Stellenerhebung. Demnach ist die Zahl der offenen Stellen gegenüber dem dritten…

    mehr lesen: 1,18 Millionen offene Stellen im vierten Quartal

  • Energiesparen im Homeoffice

    Energiesparen im Homeoffice

    Die vermehrte Arbeit im Homeoffice reduziert die CO2-Emissionen, die beispielsweise durch Pendeln entstehen. Auf der anderen Seite steigt der Stromverbrauch zuhause. Wie dieser reduziert werden kann, zeigen Tipps der Fachgemeinschaft…

    mehr lesen: Energiesparen im Homeoffice

  • Bessere Stimmung in der deutschen Wirtschaft

    Bessere Stimmung in der deutschen Wirtschaft

    Nach 90,3 Punkten im Januar ist der Ifo-Geschäftsklimaindex im Februar gestiegen. Die Unternehmen schätzen dabei nicht nur die aktuelle Lage besser ein sondern sind auch mit Blick auf die kommenden…

    mehr lesen: Bessere Stimmung in der deutschen Wirtschaft

  • Zweistelliger Exportrückgang im Corona-Krisenjahr

    Zweistelliger Exportrückgang im Corona-Krisenjahr

    Die weltweite Corona-Krise hat auch zu hohen Exporteinbußen der Maschinen- und Anlagenbauer geführt. Im Jahr 2020 wurden aus Deutschland Maschinen und Anlagen im Wert von 160 Milliarden Euro exportiert und…

    mehr lesen: Zweistelliger Exportrückgang im Corona-Krisenjahr

  • Firewall für industrielle Infrastrukturen und Betriebsumgebungen

    Firewall für industrielle Infrastrukturen und Betriebsumgebungen

    Das Unternehmen Stormshield, Anbieter von Cybersicherheit für kritische Infrastrukturen, sensible Daten und Betriebsumgebungen, hat sein Lösungsportfolio um eine neue Industrie-Firewall erweitert.

    mehr lesen: Firewall für industrielle Infrastrukturen und Betriebsumgebungen

  • Andreas Zipser erweitert den Vorstand bei Easy Software

    Andreas Zipser erweitert den Vorstand bei Easy Software

    Easy Software bekommt einen neuen Chef. Zum 1. März wird Andreas Zipser zum CEO des Softwareanbieters.

    mehr lesen: Andreas Zipser erweitert den Vorstand bei Easy Software

  • IT-Sicherheitsgesetz 2.0 soll Cybersicherheit erhöhen

    IT-Sicherheitsgesetz 2.0 soll Cybersicherheit erhöhen

    Das neue IT-Sicherheitsgesetz 2.0 des Bundesinnenministeriums steht kurz vor der Verabschiedung. Es sieht unter anderem Veränderungen im Zusammenhang mit dem Schutz kritischer Infrastrukturen (KRITIS) vor.

    mehr lesen: IT-Sicherheitsgesetz 2.0 soll Cybersicherheit erhöhen

  • Automatisierte Cyberangriffe auf Webanwendungen

    Automatisierte Cyberangriffe auf Webanwendungen

    Cyberkriminelle setzen zunehmend auf Bots und Automatisierung, um ihre Angriffe effizienter zu gestalten und einer Entdeckung zu entgehen. Barracuda analysierte eine zweimonatige Datenstichprobe zu Angriffen auf Webanwendungen, die von Barracuda-Systemen…

    mehr lesen: Automatisierte Cyberangriffe auf Webanwendungen

  • Softwareplattform für vernetzte Fahrzeuge

    Softwareplattform für vernetzte Fahrzeuge

    Bosch und Microsoft wollen eine Softwareplattform für die nahtlose Vernetzung von Autos und Cloud entwickeln.

    mehr lesen: Softwareplattform für vernetzte Fahrzeuge

  • Die Pandemie hat Missstände deutlich gemacht

    Die Pandemie hat Missstände deutlich gemacht

    Rund drei Jahre nach Inkrafttreten der DSGVO und den damit verbundenen Verschärfungen im Umgang mit personenbezogenen Daten, waren sich noch zu Beginn des letzten Jahres immer mehr Unternehmen und Behörden…

    mehr lesen: Die Pandemie hat Missstände deutlich gemacht

  • Itac Software übernimmt Cogiscan

    Itac Software übernimmt Cogiscan

    Mit der Übernahme des kanadischen Unternehmens Cogiscan will Itac Software sein Portfolio an Industrie 4.0-Lösungen erweitern.

    mehr lesen: Itac Software übernimmt Cogiscan

  • Neuer Spitzenwert und unsicherer Ausblick

    Neuer Spitzenwert und unsicherer Ausblick

    Im Jahr 2019 haben die Innovationsausgaben deutscher Unternehmen einen neuen Rekordwert erreicht. Für 2020 gehen die Autoren der Innovationserhebung von einem Rückgang der Ausgaben aus.

    mehr lesen: Neuer Spitzenwert und unsicherer Ausblick