KI-Einsatz: Oft fehlt der operative Einblick

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Red Hat hat die Ergebnisse einer Umfrage veröffentlicht, für die 1.400 CIOs in 14 Ländern, darunter auch Deutschland, zur KI-Nutzung und zum KI-Risikomanagement in ihrem Unternehmen befragt wurden. Demnach werden KI-Agenten zwar rasch in den produktiven Einsatz übernommen – den Ergebnissen zufolge nutzen 94% der Befragten aus Deutschland solche Agenten im Produktivbetrieb. Die Autoren betonen jedoch, dass es um die Governance nicht so gut bestellt ist, wie die Befragten glauben. Vielen Unternehmen fehle es an umfassenden operativen Einblicken in den Einsatz der KI-Systeme. Die Mehrheit der befragten deutschen CIOs (80%) ist jedoch überzeugt, dass ihre KI-Agenten sicher arbeiten und regulatorische Vorgaben erfüllen.

Die Ergebnisse zeigen, dass die Befragten zwar davon ausgehen, angemessene Mechanismen implementiert zu haben, um die Sicherheit und Souveränität ihrer KI-Agenten und KI-Umgebungen zu gewährleisten. Red Hat betont anhand der Ergebnisse jedoch, dass sich diese Mechanismen in der Realität oft nicht nachweisen oder kontrollieren lassen. Die dynamische Natur von KI-Innovationen und Veränderungen im Markt könne dann dazu führen, dass ein KI-System bei seiner Einführung hohe Sicherheits- und Compliance-Standards erfüllt, kurze Zeit später aber schon stark exponiert sei.

Guardrails und Monitoring mit kleinen Lücken

45% der deutschen Unternehmen geben an, sich bei der Einführung von KI vollständig auf getestete Guardrails, ein kontinuierliches Monitoring und automatische Interventionsmechanismen verlassen zu können. Weitere 35% der deutschen Unternehmen sind „ziemlich zuversichtlich“, dass sie Sicherheit und Compliance im Griff haben, räumen aber kleine Lücken bei Guardrails und Monitoring ein.

Die Studienautoren betonen, dass ein Datenaustausch zwischen Enterprise-Plattformen, Cloud-Services und externen KI-Modellen, der in Produktivumgebungen nicht vom Monitoring überwacht wird, zu Risiken führt. 35% der deutschen Unternehmen geben kleine Lücken bei der Sichtbarkeit der Datenflüsse zu; 12% haben schon KI-Funktionen eingeführt, ohne die Datenflüsse genau zu verstehen; und 6% besitzen nur einen sehr begrenzten Überblick darüber, wo Daten gespeichert werden.

43% der Befragten kennen die Datenflüsse in ihrem Unternehmen genau und wissen, wo Daten gespeichert und verarbeitet werden. Im internationalen Vergleich zeigen sich dabei deutliche Unterschiede: Während 61% der Befragten in Südafrika angeben, Datenflüsse lückenlos nachvollziehen zu können, sind es in Frankreich lediglich 31%. Red Hat sieht es für Unternehmen, die strenge regulatorische Anforderungen wie DSGVO und EU AI Act erfüllen müssen, als entscheidend an, Datenflüsse über den gesamten Lebenszyklus von KI-Anwendungen hinweg nachvollziehbar und überprüfbar zu machen. Nur so ließen sich Compliance-Verstöße und Datenabflüsse vermeiden.

Indirekte Software-Abhängigkeiten

77% der deutschen Unternehmen geben an, kritische Schwachstellen in Software binnen 24 Stunden schließen zu können, sobald ein Fix verfügbar ist. Die übrigen Unternehmen geben hier wenige Tage an – länger als eine Woche dauert es nirgendwo.

Allerdings wissen die meisten Unternehmen nicht genau, welche Software-Komponenten sie einsetzen. Lediglich 38% haben eine vollständige und stets aktualisierte Sicht auf alle genutzten Open-Source-Komponenten, inklusive deren Herkunft, Versionsstände und direkten sowie indirekten Abhängigkeiten. Länderübergreifend sind es nur knapp 33%.

37% der hiesigen Unternehmen haben zwar einen guten Überblick über die Komponenten und Versionen, müssen jedoch Abstriche beim Wissen um deren Herkunft und indirekten Abhängigkeiten machen. 23% fehlt ein vollständiger Überblick, unter anderem, weil sie sich auf Komponenten von großen Projekten konzentrieren oder die Sichtbarkeit sehr stark von den konkreten Anwendungen beziehungsweise den Geschäftsbereichen, die sie einsetzen, abhängt. 2% führen kein systematisches Tracking ihrer Open-Source-Software-Lieferkette durch.

Red Hat betont weiter, dass indirekte Abhängigkeiten in vielen Open-Source-Projekten üblich sind und Bibliotheken, Frameworks sowie andere Komponenten aus weiteren Projekten eingebunden werden. Wie weiter erläutert wird, können diese Abhängigkeiten ein erhebliches Risiko darstellen, insbesondere wenn sie nicht effektiv erfasst und evaluiert werden – dies ist bei 62% der befragten Unternehmen der Fall.

Risikobewertungen als Daueraufgabe

Bei der Bewertung von Risiken, die von KI-Anbietern ausgehen, sehen sich in der Red Hat-Studie lediglich 33% der deutschen Unternehmen gut aufgestellt und verfügen nach eigenen Angaben über messbare Kriterien, die sie im laufenden KI-Betrieb kontinuierlich überwachen. Das sind deutlich mehr als beispielsweise in den Niederlanden (knapp 22%), aber erheblich weniger als etwa in Italien (51%).

Seiten: 1 2



  • Wo steht die IT-Sicherheit?

    Wo steht die IT-Sicherheit?

    Cyberangriffe nehmen nicht nur zahlenmäßig, sondern auch in ihrer Raffinesse zu. Allerdings beeinträchtigt der IT-Fachkräftemangel viele Unternehmen bei der Umsetzung von IT-Sicherheitsmaßnahmen.

    mehr lesen: Wo steht die IT-Sicherheit?

  • Manager stellen sich gute Digitalkompetenz aus

    Manager stellen sich gute Digitalkompetenz aus

    Etwa jeder zweite Manager gibt sich die Note ‘gut‘ oder ‘sehr gut‘, wenn es um die eigene Digitalkompetenz geht. Wie die Studie des Bitkom zeigt, ist unter den Befragten jedoch…

    mehr lesen: Manager stellen sich gute Digitalkompetenz aus

  • Konjunktur trübt sich ein, langfristige Erholung erwartet

    Konjunktur trübt sich ein, langfristige Erholung erwartet

    Die Konjunkturlage trübt sich ein. Wie das Wirtschaftsinstitut ZEW mitteilt, rechnen die befragten Finanzexperten jedoch mit einer langfristigen Erholung. Das Niveau von vor der Corona-Krise soll jedoch erst im Jahr…

    mehr lesen: Konjunktur trübt sich ein, langfristige Erholung erwartet

  • Update für Industrie 4.0

    Update für Industrie 4.0

    Den gemeinnützigen Verein SmartFactory KL treibt das Ziel, die Ansätze von Industrie 4.0 verstärkt in der Produktionspraxis zu bringen. Im Rahmen der Initiative wurden deshalb bereits realitätsnahe Lösungen, erste Produkte…

    mehr lesen: Update für Industrie 4.0

  • Jennifer Morgan verlässt SAP

    Jennifer Morgan verlässt SAP

    Co-CEO Jennifer Morgan verlässt SAP Ende April. Wie der Softwarekonzern mitteilt, wird Christian Klein das Unternehmen zukünftig alleine führen.

    mehr lesen: Jennifer Morgan verlässt SAP

  • Wirtschaftliche Auswirkungen in allen Bundesländern

    Wirtschaftliche Auswirkungen in allen Bundesländern

    Eine Szenarienrechnung des Ifo-Instituts zeigt, dass im Gegensatz zur Finanzkrise 2009 die Wirtschaft aller Bundesländer gleichermaßen vom aktuellen ‘Shutdown‘ betroffen ist.

    mehr lesen: Wirtschaftliche Auswirkungen in allen Bundesländern

  • Sicherheitsarchitektur für das Industrial IoT

    Sicherheitsarchitektur für das Industrial IoT

    Cybersecuritybedrohungen für kritische Infrastrukturen steigen und stellen eine erhebliche Gefahr für Mitarbeiter sowie ein finanzielles Risiko dar.

    mehr lesen: Sicherheitsarchitektur für das Industrial IoT

  • VDMA-Blitzumfrage

    VDMA-Blitzumfrage

    In einer dritten Blitzumfrage zu den Auswirkungen der Corona-Pandemie auf den deutsche Maschinenbau zeigt sich eine Verschiebung. Viele Unternehmen berichten von Stornierungen und Auftragseinbußen.

    mehr lesen: VDMA-Blitzumfrage

  • Verlängerung des Kurzarbeitergeldes

    Verlängerung des Kurzarbeitergeldes

    Die Große Koalition will die Bezugsdauer des Kurzarbeitergeldes für Beschäftigte über zwölf Monate hinaus verlängern. Davon könnten viele Maschinenbauer profitieren.

    mehr lesen: Verlängerung des Kurzarbeitergeldes

  • Bosch Rexroth erzielt Umsatz auf Vorjahresniveau

    Bosch Rexroth erzielt Umsatz auf Vorjahresniveau

    Bosch Rexroth hat 2019 mit 6,2Mrd.€ einen Umsatz auf Vorjahresniveau erzielt. Profitiert hat das Unternehmen dabei vor allem von seinem soliden Kerngeschäft mit Hydraulik sowie dem weiteren Ausbau des Angebots…

    mehr lesen: Bosch Rexroth erzielt Umsatz auf Vorjahresniveau

  • Maschinenbau in China fährt langsam wieder hoch

    Maschinenbau in China fährt langsam wieder hoch

    Eine 2. Blitzumfrage des VDMA in China zeigt, dass die Auswirkungen der Corona-Pandemie dort als weniger schlimm eingeschätzt werden als noch im März. Dennoch erwarten die Unternehmen kräftige Umsatzeinbußen.

    mehr lesen: Maschinenbau in China fährt langsam wieder hoch

  • Zertifizierung während der Corona-Krise

    Zertifizierung während der Corona-Krise

    Unternehmen sind derzeit in vielerlei Hinsicht gefordert: Sie müssen ihr wirtschaftliches Überleben sichern, Mitarbeiter ins Homeoffice oder in Kurzarbeit schicken und neue Strategien entwickeln. Sind Managementsysteme für Qualität, Umwelt, Energie…

    mehr lesen: Zertifizierung während der Corona-Krise