Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Kooperation zwischen AIF und IDTA

    Kooperation zwischen AIF und IDTA

    Die Industrial Digital Twin Association und Alliance Industrie du Futur haben ein Memorandum of Understanding unterzeichnet. Beide wollen sich u.a. auf Digital Twin-Projekte fokussieren, die der Industrie zu mehr Nachhaltigkeit…

    mehr lesen: Kooperation zwischen AIF und IDTA

  • World of Quantum geht in München an den Start

    World of Quantum geht in München an den Start

    Eine Plattform für die Quantentechnologie will die Messe München mit der World of Quantum bieten, die erstmals im Rahmen der Laser World of Photonics stattfinden soll.

    mehr lesen: World of Quantum geht in München an den Start

  • Pandemie hemmt Innovationen und ist zugleich Impulsgeber

    Pandemie hemmt Innovationen und ist zugleich Impulsgeber

    Im Jahr 2020 haben deutsche Unternehmen ihre innovationsausgaben reduziert. Wie aus Erhebungen des Zentrums für Europäische Wirtschaftsforschung hervorgeht, sind die Innovationstätigkeiten dabei vor allem bei Großunternehmen zurück gegangen.

    mehr lesen: Pandemie hemmt Innovationen und ist zugleich Impulsgeber

  • FMB 2022 findet früher statt

    FMB 2022 findet früher statt

    Die Vorverlegung der SPS führt dazu, dass die FMB – Zuliefermesse Maschinenbau nun ebenfalls früher stattfindet. Statt wie ursprünglich geplant Mitte November, sind die Veranstalter auf einen Termin Mitte Oktober…

    mehr lesen: FMB 2022 findet früher statt

  • iGrafx übernimmt Logpickr

    iGrafx übernimmt Logpickr

    Mit der Übernahme von Logpickr hat sich der Prozessdatenmanagement-Spezialist iGrafx Knowhow in Sachen Process Mining gesichert.

    mehr lesen: iGrafx übernimmt Logpickr

  • Machine Learning für die hochautomatisierte Fertigung

    Machine Learning für die hochautomatisierte Fertigung

    Der Automobilzulieferer Valeo hat mit dem Fraunhofer KI-Spin-off Plus10 und der Technischen Hochschule Ingolstadt ein Forschungs- und Entwicklungsprojekt gestartet. Ziel des Projekts Palim (Performance-Accelerated Learning for Intelligent Manufacturing) ist es,…

    mehr lesen: Machine Learning für die hochautomatisierte Fertigung

  • Ifo Geschäftsklima legt im Januar zu

    Ifo Geschäftsklima legt im Januar zu

    0,9 Punkte mehr als noch im Dezember: Der Ifo-Geschäftsklimaindex ist im Januar gestiegen. Aus der Industrie kommen dabei positive Signale.

    mehr lesen: Ifo Geschäftsklima legt im Januar zu

  • Neuer Vorsitzender der VDI/VDE-GMA

    Neuer Vorsitzender der VDI/VDE-GMA

    Nach Atilla Bilgic übernimmt Michael Weyrich den Vorsitz der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik (GMA).

    mehr lesen: Neuer Vorsitzender der VDI/VDE-GMA

  • Wie sich Omicron auf die Lieferketten auswirkt

    Wie sich Omicron auf die Lieferketten auswirkt

    Nach Analysen des B2B-Netzwerks Tradeshift hat sich das Auftreten der Omicron-Variante im vierten Quartal negativ auf die globalen Lieferketten ausgewirkt, jedoch nicht so stark wie vorherige Infektions-Wellen.

    mehr lesen: Wie sich Omicron auf die Lieferketten auswirkt

  • Open Mind sichert sich Mehrheit an Hummingbird

    Open Mind sichert sich Mehrheit an Hummingbird

    Open Mind übernimmt die Mehrheit am MES-Hersteller Hummingbird Systems. Die CAD/CAM-Lösung von Open Mind wurde bereits im Rahmen einer Zusammenarbeit in das MES von Hummingbird integriert.

    mehr lesen: Open Mind sichert sich Mehrheit an Hummingbird

  • 350Mrd.€ weniger Wertschöpfung durch die Pandemie

    350Mrd.€ weniger Wertschöpfung durch die Pandemie

    Laut einer Studie des Instituts der deutschen Wirtschaft (IW) sind durch die Corona-Pandemie bisher 350Mrd.€ an Wirtschaftsleistung verloren gegangen. Im ersten Quartal dieses Jahres gehen die IW-Experten von einem weiteren…

    mehr lesen: 350Mrd.€ weniger Wertschöpfung durch die Pandemie

  • Umstellung auf S4/Hana für viele Unternehmen eine Herausforderung

    Umstellung auf S4/Hana für viele Unternehmen eine Herausforderung

    Umstellung auf S/4Hana ja, aber keine Zeit für die Vorbereitung. So sieht es die Mehrheit der befragten Unternehmen in einer Studie des Analystenhauses Techconsult. Bei 90 Prozent der Studienteilnehmer bemängeln…

    mehr lesen: Umstellung auf S4/Hana für viele Unternehmen eine Herausforderung