Red Hat hat die Ergebnisse einer Umfrage veröffentlicht, für die 1.400 CIOs in 14 Ländern, darunter auch Deutschland, zur KI-Nutzung und zum KI-Risikomanagement in ihrem Unternehmen befragt wurden. Demnach werden KI-Agenten zwar rasch in den produktiven Einsatz übernommen – den Ergebnissen zufolge nutzen 94% der Befragten aus Deutschland solche Agenten im Produktivbetrieb. Die Autoren betonen jedoch, dass es um die Governance nicht so gut bestellt ist, wie die Befragten glauben. Vielen Unternehmen fehle es an umfassenden operativen Einblicken in den Einsatz der KI-Systeme. Die Mehrheit der befragten deutschen CIOs (80%) ist jedoch überzeugt, dass ihre KI-Agenten sicher arbeiten und regulatorische Vorgaben erfüllen.
Die Ergebnisse zeigen, dass die Befragten zwar davon ausgehen, angemessene Mechanismen implementiert zu haben, um die Sicherheit und Souveränität ihrer KI-Agenten und KI-Umgebungen zu gewährleisten. Red Hat betont anhand der Ergebnisse jedoch, dass sich diese Mechanismen in der Realität oft nicht nachweisen oder kontrollieren lassen. Die dynamische Natur von KI-Innovationen und Veränderungen im Markt könne dann dazu führen, dass ein KI-System bei seiner Einführung hohe Sicherheits- und Compliance-Standards erfüllt, kurze Zeit später aber schon stark exponiert sei.
Guardrails und Monitoring mit kleinen Lücken
45% der deutschen Unternehmen geben an, sich bei der Einführung von KI vollständig auf getestete Guardrails, ein kontinuierliches Monitoring und automatische Interventionsmechanismen verlassen zu können. Weitere 35% der deutschen Unternehmen sind „ziemlich zuversichtlich“, dass sie Sicherheit und Compliance im Griff haben, räumen aber kleine Lücken bei Guardrails und Monitoring ein.
Die Studienautoren betonen, dass ein Datenaustausch zwischen Enterprise-Plattformen, Cloud-Services und externen KI-Modellen, der in Produktivumgebungen nicht vom Monitoring überwacht wird, zu Risiken führt. 35% der deutschen Unternehmen geben kleine Lücken bei der Sichtbarkeit der Datenflüsse zu; 12% haben schon KI-Funktionen eingeführt, ohne die Datenflüsse genau zu verstehen; und 6% besitzen nur einen sehr begrenzten Überblick darüber, wo Daten gespeichert werden.
43% der Befragten kennen die Datenflüsse in ihrem Unternehmen genau und wissen, wo Daten gespeichert und verarbeitet werden. Im internationalen Vergleich zeigen sich dabei deutliche Unterschiede: Während 61% der Befragten in Südafrika angeben, Datenflüsse lückenlos nachvollziehen zu können, sind es in Frankreich lediglich 31%. Red Hat sieht es für Unternehmen, die strenge regulatorische Anforderungen wie DSGVO und EU AI Act erfüllen müssen, als entscheidend an, Datenflüsse über den gesamten Lebenszyklus von KI-Anwendungen hinweg nachvollziehbar und überprüfbar zu machen. Nur so ließen sich Compliance-Verstöße und Datenabflüsse vermeiden.
Indirekte Software-Abhängigkeiten
77% der deutschen Unternehmen geben an, kritische Schwachstellen in Software binnen 24 Stunden schließen zu können, sobald ein Fix verfügbar ist. Die übrigen Unternehmen geben hier wenige Tage an – länger als eine Woche dauert es nirgendwo.
Allerdings wissen die meisten Unternehmen nicht genau, welche Software-Komponenten sie einsetzen. Lediglich 38% haben eine vollständige und stets aktualisierte Sicht auf alle genutzten Open-Source-Komponenten, inklusive deren Herkunft, Versionsstände und direkten sowie indirekten Abhängigkeiten. Länderübergreifend sind es nur knapp 33%.
37% der hiesigen Unternehmen haben zwar einen guten Überblick über die Komponenten und Versionen, müssen jedoch Abstriche beim Wissen um deren Herkunft und indirekten Abhängigkeiten machen. 23% fehlt ein vollständiger Überblick, unter anderem, weil sie sich auf Komponenten von großen Projekten konzentrieren oder die Sichtbarkeit sehr stark von den konkreten Anwendungen beziehungsweise den Geschäftsbereichen, die sie einsetzen, abhängt. 2% führen kein systematisches Tracking ihrer Open-Source-Software-Lieferkette durch.
Red Hat betont weiter, dass indirekte Abhängigkeiten in vielen Open-Source-Projekten üblich sind und Bibliotheken, Frameworks sowie andere Komponenten aus weiteren Projekten eingebunden werden. Wie weiter erläutert wird, können diese Abhängigkeiten ein erhebliches Risiko darstellen, insbesondere wenn sie nicht effektiv erfasst und evaluiert werden – dies ist bei 62% der befragten Unternehmen der Fall.
Risikobewertungen als Daueraufgabe
Bei der Bewertung von Risiken, die von KI-Anbietern ausgehen, sehen sich in der Red Hat-Studie lediglich 33% der deutschen Unternehmen gut aufgestellt und verfügen nach eigenen Angaben über messbare Kriterien, die sie im laufenden KI-Betrieb kontinuierlich überwachen. Das sind deutlich mehr als beispielsweise in den Niederlanden (knapp 22%), aber erheblich weniger als etwa in Italien (51%).
