Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Digitalisierte Produktion reduziert Emissionen nicht so stark wie erwartet

    Digitalisierte Produktion reduziert Emissionen nicht so stark wie erwartet

    Allgemein besteht die Annahme, dass digitale Technologien zu Energieeffizienzverbesserungen führen und dadurch CO2-Emissionen erheblich reduziert werden können. Eine Studie des ZEW in Mannheim deutet allerdings darauf hin, dass digitale Technologien…

    mehr lesen: Digitalisierte Produktion reduziert Emissionen nicht so stark wie erwartet

  • Maschinen- und Anlagenbauer mit Auftragsplus

    Maschinen- und Anlagenbauer mit Auftragsplus

    Ein Auftragsplus von 32 Prozent haben die Maschinen- und Anlagenbauer im vergangenen Jahr erzielt. Dabei legten die Bestellungen auch im Dezember zu — im Vorjahresvergleich um 21 Prozent.

    mehr lesen: Maschinen- und Anlagenbauer mit Auftragsplus

  • Dassault Systèmes erzielt Umsatzwachstum

    Dassault Systèmes erzielt Umsatzwachstum

    Mit einem Umsatzplus von 11 Prozent hat Dassault Systèmes das Geschäftsjahr 2021 abgeschlossen. Dabei war vor allem der Softwarebereich Wachstumstreiber.

    mehr lesen: Dassault Systèmes erzielt Umsatzwachstum

  • M&M Software unter neuer Leitung

    M&M Software unter neuer Leitung

    Ab Juli steht M&M Software unter neuer Leitung. Der Langjährige Geschäftsführer Klaus Hübschle übergibt an Christian Gnädig und Thomas Gaus.

    mehr lesen: M&M Software unter neuer Leitung

  • Geschäftsklima in der Digitalbranche erreicht Vor-Corona-Niveau

    Geschäftsklima in der Digitalbranche erreicht Vor-Corona-Niveau

    Mit einem Plus von 5,4 Punkten liegt der Ifo-Bitkom-Digitalindex nun bei 30 Punkten. Die deutsche Digitalbranche hat somit wieder ihr Vor-Corona-Niveau erreicht. Die Personalsorgen der Branche sind laut Index jedoch…

    mehr lesen: Geschäftsklima in der Digitalbranche erreicht Vor-Corona-Niveau

  • Arbeitsmarkt kommt ‚ohne große Schrammen‘ durch die Welle

    Arbeitsmarkt kommt ‚ohne große Schrammen‘ durch die Welle

    Nach vier Rückgängen in Folge ist das IAB-Arbeitsmarktbarometer im Januar wieder gestiegen. Die zahlen deuten u.a. auf weiter steigende Beschäftigung hin.

    mehr lesen: Arbeitsmarkt kommt ‚ohne große Schrammen‘ durch die Welle

  • EU-Kommission stellt neue Normungsstrategie vor

    EU-Kommission stellt neue Normungsstrategie vor

    Die EU-Kommission hat eine neue Normungsstrategie vorgestellt. Diese sieht u.a. vor, die Einflussnahme von Akteuren aus nicht-Mitgliedsstaaten eindämmen. Zudem soll die Rolle Europas bei globalen Normen gestärkt werden.

    mehr lesen: EU-Kommission stellt neue Normungsstrategie vor

  • Statamath wird Tochter von IFM Solutions

    Statamath wird Tochter von IFM Solutions

    IFM Solutions hat den Big-Data-Spezialisten Statamath übernommen. Alexander Hoffmann und Christian Friedrich sollen das Unternehmen weiterhin führen.

    mehr lesen: Statamath wird Tochter von IFM Solutions

  • Kooperation zwischen AIF und IDTA

    Kooperation zwischen AIF und IDTA

    Die Industrial Digital Twin Association und Alliance Industrie du Futur haben ein Memorandum of Understanding unterzeichnet. Beide wollen sich u.a. auf Digital Twin-Projekte fokussieren, die der Industrie zu mehr Nachhaltigkeit…

    mehr lesen: Kooperation zwischen AIF und IDTA

  • Smart Systems Hub erweitert IoT-Labor

    Smart Systems Hub erweitert IoT-Labor

    Rund 500.000€ investiert der Smart Systems Hub in den Ausbau seines ‚IoT-Labs‘. Unternehmen und Institute können dort beispielsweise Roboter per über die Cloud mithilfe von 5G fernsteuern.

    mehr lesen: Smart Systems Hub erweitert IoT-Labor

  • World of Quantum geht in München an den Start

    World of Quantum geht in München an den Start

    Eine Plattform für die Quantentechnologie will die Messe München mit der World of Quantum bieten, die erstmals im Rahmen der Laser World of Photonics stattfinden soll.

    mehr lesen: World of Quantum geht in München an den Start

  • Pandemie hemmt Innovationen und ist zugleich Impulsgeber

    Pandemie hemmt Innovationen und ist zugleich Impulsgeber

    Im Jahr 2020 haben deutsche Unternehmen ihre innovationsausgaben reduziert. Wie aus Erhebungen des Zentrums für Europäische Wirtschaftsforschung hervorgeht, sind die Innovationstätigkeiten dabei vor allem bei Großunternehmen zurück gegangen.

    mehr lesen: Pandemie hemmt Innovationen und ist zugleich Impulsgeber