Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Covid-19-bedingte Cyberkriminalität stark gestiegen

    Covid-19-bedingte Cyberkriminalität stark gestiegen

    NTT hat kürzlich seinen Global Threat Intelligence Report 2021 veröffentlicht. Der Bericht zeigt, dass Hacker die derzeitige Ausnahmesituation ausnutzen, indem sie wichtige Branchen und gängige Schwachstellen aus der Umstellung auf…

    mehr lesen: Covid-19-bedingte Cyberkriminalität stark gestiegen

  • IT-Sicherheitsgesetz nur mit ‚fragwürdigem Mehrwert‘?

    IT-Sicherheitsgesetz nur mit ‚fragwürdigem Mehrwert‘?

    Der Digitalverband Bitkom kritisierte das neu verabschiedete IT-Sicherheitsgesetz 2.0 der deutschen Bundesregierung als „eine Kombination aus technischer Zertifizierungsmaschinerie und politisch-regulatorischem Gutdünken mit fragwürdigem Mehrwert für die IT-Sicherheit“.

    mehr lesen: IT-Sicherheitsgesetz nur mit ‚fragwürdigem Mehrwert‘?

  • Firewall für Automatisierungsnetzwerke

    Firewall für Automatisierungsnetzwerke

    Die Firewall SecurityBridge gewährleistet laut Hersteller Pilz ab sofort auch die Überwachung der Datenkommunikation beliebiger weiterer Netzwerkteilnehmer außerhalb der Pilz-Produktfamilie.

    mehr lesen: Firewall für Automatisierungsnetzwerke

  • Alltrotec blickt auf 30+1 Jahre zurück

    Alltrotec blickt auf 30+1 Jahre zurück

    Eigentlich sollte zum 30-jährigen Bestehen bereits im vergangenen Jahr gefeiert werden, jedoch hat die Corona-Pandemie einen Strich durch die Rechnung gemacht.

    mehr lesen: Alltrotec blickt auf 30+1 Jahre zurück

  • Zweistelliges Wachstum im März

    Zweistelliges Wachstum im März

    Im März haben die deutschen Maschinen- und Anlagenbauer ihre Maschinenexporte im Vergleich zum Vorjahr um rund 13 Prozent gesteigert, was jedoch auch der niedrigen Vergleichsbasis aus dem Vorjahr geschuldet ist.

    mehr lesen: Zweistelliges Wachstum im März

  • Hacker erpressen dreifach

    Hacker erpressen dreifach

    Immer wieder sind Unternehmen und Organisationen von Ransomware-Angriffen betroffen. Der Softwareanbieter Check Point beobachtet dabei ein noch aggressiveres Vorgehen der Hacker.

    mehr lesen: Hacker erpressen dreifach

  • Machineering startet Partnerprogramm

    Machineering startet Partnerprogramm

    Im Rahmen eines neu aufgesetzten Partnerprogramms will der Simulationsspezialist Machineering Anwendern u.a. die Lösungsintegration erleichtern.

    mehr lesen: Machineering startet Partnerprogramm

  • Toby Alcock neuer CTO der Logicalis Group

    Toby Alcock neuer CTO der Logicalis Group

    Toby Alcock ist neuer Chief Technology Officer der Logicalis Group. Er bekleidete zuletzt die Position des Chief Technology Officer für Logicalis Australien.

    mehr lesen: Toby Alcock neuer CTO der Logicalis Group

  • SER Group mit neuem CEO und Executive Chairman

    SER Group mit neuem CEO und Executive Chairman

    Sven Behrendt ist neuer CEO der SER Group. Die Unternehmensgruppe teilt zudem mit, dass John Bates als Executive Chairman in den Beirat der SER Group berufen wurde.

    mehr lesen: SER Group mit neuem CEO und Executive Chairman

  • Lösung zur Voraussage von Ausfallzeiten

    Lösung zur Voraussage von Ausfallzeiten

    Mit Kaspersky Machine Learning for Anomaly Detection lassen sich Abweichungen in den Produktionsprozessen frühzeitig erkennen und Ausfallzeiten reduzieren.

    mehr lesen: Lösung zur Voraussage von Ausfallzeiten

  • Neuer Business Development Manager bei Itac

    Neuer Business Development Manager bei Itac

    Martin Strempel ist neuer Business Development Manager Data Analytics beim beim MES-Anbieter Itac Software. In seiner bisherigen Laufbahn bei der BMW Group war er u.a. für die Produktionssteuerung im Werk…

    mehr lesen: Neuer Business Development Manager bei Itac

  • Weiter Zurückhaltung bei Neueinstellungen

    Weiter Zurückhaltung bei Neueinstellungen

    Bundesweit gab es im ersten Quartal 2021 1,13Mio. offene Stellen und damit mehr als im gleichen Zeitraum 2020. Im Vergleich zum 4. Quartal 2020 gingen die offenen Stellen jedoch zurück.

    mehr lesen: Weiter Zurückhaltung bei Neueinstellungen