KI-Einsatz: Oft fehlt der operative Einblick

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Red Hat hat die Ergebnisse einer Umfrage veröffentlicht, für die 1.400 CIOs in 14 Ländern, darunter auch Deutschland, zur KI-Nutzung und zum KI-Risikomanagement in ihrem Unternehmen befragt wurden. Demnach werden KI-Agenten zwar rasch in den produktiven Einsatz übernommen – den Ergebnissen zufolge nutzen 94% der Befragten aus Deutschland solche Agenten im Produktivbetrieb. Die Autoren betonen jedoch, dass es um die Governance nicht so gut bestellt ist, wie die Befragten glauben. Vielen Unternehmen fehle es an umfassenden operativen Einblicken in den Einsatz der KI-Systeme. Die Mehrheit der befragten deutschen CIOs (80%) ist jedoch überzeugt, dass ihre KI-Agenten sicher arbeiten und regulatorische Vorgaben erfüllen.

Die Ergebnisse zeigen, dass die Befragten zwar davon ausgehen, angemessene Mechanismen implementiert zu haben, um die Sicherheit und Souveränität ihrer KI-Agenten und KI-Umgebungen zu gewährleisten. Red Hat betont anhand der Ergebnisse jedoch, dass sich diese Mechanismen in der Realität oft nicht nachweisen oder kontrollieren lassen. Die dynamische Natur von KI-Innovationen und Veränderungen im Markt könne dann dazu führen, dass ein KI-System bei seiner Einführung hohe Sicherheits- und Compliance-Standards erfüllt, kurze Zeit später aber schon stark exponiert sei.

Guardrails und Monitoring mit kleinen Lücken

45% der deutschen Unternehmen geben an, sich bei der Einführung von KI vollständig auf getestete Guardrails, ein kontinuierliches Monitoring und automatische Interventionsmechanismen verlassen zu können. Weitere 35% der deutschen Unternehmen sind „ziemlich zuversichtlich“, dass sie Sicherheit und Compliance im Griff haben, räumen aber kleine Lücken bei Guardrails und Monitoring ein.

Die Studienautoren betonen, dass ein Datenaustausch zwischen Enterprise-Plattformen, Cloud-Services und externen KI-Modellen, der in Produktivumgebungen nicht vom Monitoring überwacht wird, zu Risiken führt. 35% der deutschen Unternehmen geben kleine Lücken bei der Sichtbarkeit der Datenflüsse zu; 12% haben schon KI-Funktionen eingeführt, ohne die Datenflüsse genau zu verstehen; und 6% besitzen nur einen sehr begrenzten Überblick darüber, wo Daten gespeichert werden.

43% der Befragten kennen die Datenflüsse in ihrem Unternehmen genau und wissen, wo Daten gespeichert und verarbeitet werden. Im internationalen Vergleich zeigen sich dabei deutliche Unterschiede: Während 61% der Befragten in Südafrika angeben, Datenflüsse lückenlos nachvollziehen zu können, sind es in Frankreich lediglich 31%. Red Hat sieht es für Unternehmen, die strenge regulatorische Anforderungen wie DSGVO und EU AI Act erfüllen müssen, als entscheidend an, Datenflüsse über den gesamten Lebenszyklus von KI-Anwendungen hinweg nachvollziehbar und überprüfbar zu machen. Nur so ließen sich Compliance-Verstöße und Datenabflüsse vermeiden.

Indirekte Software-Abhängigkeiten

77% der deutschen Unternehmen geben an, kritische Schwachstellen in Software binnen 24 Stunden schließen zu können, sobald ein Fix verfügbar ist. Die übrigen Unternehmen geben hier wenige Tage an – länger als eine Woche dauert es nirgendwo.

Allerdings wissen die meisten Unternehmen nicht genau, welche Software-Komponenten sie einsetzen. Lediglich 38% haben eine vollständige und stets aktualisierte Sicht auf alle genutzten Open-Source-Komponenten, inklusive deren Herkunft, Versionsstände und direkten sowie indirekten Abhängigkeiten. Länderübergreifend sind es nur knapp 33%.

37% der hiesigen Unternehmen haben zwar einen guten Überblick über die Komponenten und Versionen, müssen jedoch Abstriche beim Wissen um deren Herkunft und indirekten Abhängigkeiten machen. 23% fehlt ein vollständiger Überblick, unter anderem, weil sie sich auf Komponenten von großen Projekten konzentrieren oder die Sichtbarkeit sehr stark von den konkreten Anwendungen beziehungsweise den Geschäftsbereichen, die sie einsetzen, abhängt. 2% führen kein systematisches Tracking ihrer Open-Source-Software-Lieferkette durch.

Red Hat betont weiter, dass indirekte Abhängigkeiten in vielen Open-Source-Projekten üblich sind und Bibliotheken, Frameworks sowie andere Komponenten aus weiteren Projekten eingebunden werden. Wie weiter erläutert wird, können diese Abhängigkeiten ein erhebliches Risiko darstellen, insbesondere wenn sie nicht effektiv erfasst und evaluiert werden – dies ist bei 62% der befragten Unternehmen der Fall.

Risikobewertungen als Daueraufgabe

Bei der Bewertung von Risiken, die von KI-Anbietern ausgehen, sehen sich in der Red Hat-Studie lediglich 33% der deutschen Unternehmen gut aufgestellt und verfügen nach eigenen Angaben über messbare Kriterien, die sie im laufenden KI-Betrieb kontinuierlich überwachen. Das sind deutlich mehr als beispielsweise in den Niederlanden (knapp 22%), aber erheblich weniger als etwa in Italien (51%).

Seiten: 1 2



  • Bosch Rexroth erzielt Umsatz auf Vorjahresniveau

    Bosch Rexroth erzielt Umsatz auf Vorjahresniveau

    Bosch Rexroth hat 2019 mit 6,2Mrd.€ einen Umsatz auf Vorjahresniveau erzielt. Profitiert hat das Unternehmen dabei vor allem von seinem soliden Kerngeschäft mit Hydraulik sowie dem weiteren Ausbau des Angebots…

    mehr lesen: Bosch Rexroth erzielt Umsatz auf Vorjahresniveau

  • Maschinenbau in China fährt langsam wieder hoch

    Maschinenbau in China fährt langsam wieder hoch

    Eine 2. Blitzumfrage des VDMA in China zeigt, dass die Auswirkungen der Corona-Pandemie dort als weniger schlimm eingeschätzt werden als noch im März. Dennoch erwarten die Unternehmen kräftige Umsatzeinbußen.

    mehr lesen: Maschinenbau in China fährt langsam wieder hoch

  • Zertifizierung während der Corona-Krise

    Zertifizierung während der Corona-Krise

    Unternehmen sind derzeit in vielerlei Hinsicht gefordert: Sie müssen ihr wirtschaftliches Überleben sichern, Mitarbeiter ins Homeoffice oder in Kurzarbeit schicken und neue Strategien entwickeln. Sind Managementsysteme für Qualität, Umwelt, Energie…

    mehr lesen: Zertifizierung während der Corona-Krise

  • ZVEI-Umfrage

    ZVEI-Umfrage

    Die Elektroindustrie bekommt die Auswirkungen der Corona-Pandemie zunehmend zu spüren. Das ergab eine Umfrage des ZVEI unter seinen Mitgliedsunternehmen.

    mehr lesen: ZVEI-Umfrage

  • Nvidia wird Gesellschafter beim DFKI

    Nvidia wird Gesellschafter beim DFKI

    Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) hat mit Nvidia einen neuen Gesellschafter. Beide Unternehmen forschen gemeinsam in den Bereichen Machine Learning und Deep Learning.

    mehr lesen: Nvidia wird Gesellschafter beim DFKI

  • CDOs vor allem in großen Unternehmen etabliert

    CDOs vor allem in großen Unternehmen etabliert

    Bezogen auf die Gesamtwirtschaft haben 19 Prozent der Unternehmen die Position eines Chief Digital Officers bzw. eines Leiters Digitalisierung geschaffen. Das geht aus einer Befragung des Digitalverbands Bitkom hervor.

    mehr lesen: CDOs vor allem in großen Unternehmen etabliert

  • Corona und die Folgen für die Wirtschaft in Deutschland

    Corona und die Folgen für die Wirtschaft in Deutschland

    Die Auswirkungen von COVID-19 auf unsere Gesellschaft und die Wirtschaft sind enorm und betreffen uns alle.

    mehr lesen: Corona und die Folgen für die Wirtschaft in Deutschland

  • AI-fähige Microlearning-Lösung für die Industrie 4.0

    AI-fähige Microlearning-Lösung für die Industrie 4.0

    Aveva und Axonify wollen gemeinsam eine KI-Microlearning-Lösung für die Industrie anbieten. Beide Unternehmen haben sich diesbezüglich auf eine strategische Partnerschaft geeinigt.

    mehr lesen: AI-fähige Microlearning-Lösung für die Industrie 4.0

  • Industry Show: Virtuelle Messe für alle Bereiche der Industrie

    Industry Show: Virtuelle Messe für alle Bereiche der Industrie

    Der TeDo Verlag veranstaltet ab dem 4. Mai eine virtuelle Messe rund um unsere Themen Automatisierung, Robotik und Energieverteilung, Schaltschrankbau, Industrielle IT, IIoT usw. Wir wollen so eine Lösung finden,…

    mehr lesen: Industry Show: Virtuelle Messe für alle Bereiche der Industrie

  • IoT-Geräte als Köder für Cyberangreifer

    IoT-Geräte als Köder für Cyberangreifer

    Attivo Networks hat seine auf der Deception-Technologie basierende ThreatDefend-Plattform in das Microsoft Azure Security Center integriert. Dadurch wird die Erkennungsrate und Reaktionszeit bei Angriffen auf den Microsoft-Dienst Azure IoT Edge…

    mehr lesen: IoT-Geräte als Köder für Cyberangreifer

  • Zoom-Nutzer verstärkt im Visier

    Zoom-Nutzer verstärkt im Visier

    Die Corona-Pandemie stellt uns alle vor große Herausforderungen – nicht nur im privaten Bereich, sondern auch beruflich. Unzählige Menschen weltweit arbeiten derzeit erstmals im Homeoffice.

    mehr lesen: Zoom-Nutzer verstärkt im Visier

  • Auftragseingang im Maschinenbau im Februar 2020

    Auftragseingang im Maschinenbau im Februar 2020

    Im Februar verfehlten die Auftragseingänge im deutschen Maschinenbau ihr Vorjahresniveau real um 4 Prozent. Während die Bestellungen der inländischen Kunden um 6 Prozent sanken, lagen die Auslandsorders um 3 Prozent…

    mehr lesen: Auftragseingang im Maschinenbau im Februar 2020