Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • SuperOffice-CEO Jentoft geht nach 18 Jahren

    SuperOffice-CEO Jentoft geht nach 18 Jahren

    Der CRM-Softwareanbieter SuperOffice hat Lars Engbork zum neuen CEO ernannt. Er übernimmt die Leitung von Gisle Jentoft, der das norwegische Unternehmen 18 Jahre lang geführt hat. Seit 2020 hält der…

    mehr lesen: SuperOffice-CEO Jentoft geht nach 18 Jahren

  • Transferprojekt vermittelt Blockchain-Wissen für KMU

    Transferprojekt vermittelt Blockchain-Wissen für KMU

    Im neu gestarteten Projekt DUH-IT sollen KMU aus Dortmund, Unna und Hamm den Einsatz von Blockchain-Technologie in der Lieferkettengestaltung erkunden. So wollen das Fraunhofer IML und die TU Dortmund die…

    mehr lesen: Transferprojekt vermittelt Blockchain-Wissen für KMU

  • Maschinenausfuhren gehen zurück

    Maschinenausfuhren gehen zurück

    Der deutsche Maschinen- und Anlagenbau hat im ersten Quartal 2024 nominal 4,6 Prozent weniger als im Vorjahr exportiert, meldet der Branchenverband VDMA. Die Exporte nach China sinken weiter, das Wachstum…

    mehr lesen: Maschinenausfuhren gehen zurück

  • All About Automation in Heilbronn vorüber

    All About Automation in Heilbronn vorüber

    Das Messekonzept der All About Automation: überschaubar, praxisnah und regional. Damit ist Veranstalterin Easyfairs erfolgreich, die dritte Ausgabe der Automatisierungsschau in Heilbronn verzeichnete rund 30 Prozent mehr Aussteller und 40…

    mehr lesen: All About Automation in Heilbronn vorüber

  • Instandhaltung und Field Service mit SAP-Software abwickeln

    Instandhaltung und Field Service mit SAP-Software abwickeln

    Der 28. Jahreskongress SAP EAM 2024 findet am 20. und 21. Juni in Berlin statt. Auch dieses Mal stehen auf der unabhängigen Konferenz Neuigkeiten und Herausforderungen rund um SAP-softwaregestütztes Instandhaltungsmanagement…

    mehr lesen: Instandhaltung und Field Service mit SAP-Software abwickeln

  • AI Act nimmt letzte Hürde

    AI Act nimmt letzte Hürde

    Die Mitgliedsstaaten der EU wollen am 21. Mai 2024 im Ministerrat den AI Act beschließen. In der Verordnung werden Systeme mit künstlicher Intelligenz nach Risikoklassen unterteilt und reguliert. Bitkom-Präsident Dr.…

    mehr lesen: AI Act nimmt letzte Hürde

  • Decide4ECO nutzt Manufacturing-X für nachhaltige Produktentwicklung

    Decide4ECO nutzt Manufacturing-X für nachhaltige Produktentwicklung

    Im Rahmen der Initiative Manufacturing-X fördert das Bundesministerium für Wirtschaft und Klimaschutz (BMWK) das Konsortialprojekt Decide4Eco mit 7,3Mio.€. Das Projekt beschäftigt sich mit der Frage, wie Produkte nachhaltiger entwickelt und…

    mehr lesen: Decide4ECO nutzt Manufacturing-X für nachhaltige Produktentwicklung

  • Forschungsbeirat Industrie 4.0 stellt Engineering-Roadmap vor

    Forschungsbeirat Industrie 4.0 stellt Engineering-Roadmap vor

    Der Forschungsbeirat Industrie 4.0 stellt mit seiner Engineering-Roadmap und den darin enthaltenen Themenblöcken einen Rahmen für konkrete Forschungsschwerpunkte der nächsten zehn Jahre vor. Im Mittelpunkt stehen vier Hauptthemen.

    mehr lesen: Forschungsbeirat Industrie 4.0 stellt Engineering-Roadmap vor

  • Eine gemeinsame Sprache für Daten finden

    Eine gemeinsame Sprache für Daten finden

    Unternehmen treffen Entscheidungen meist auf Basis von strukturierten Daten. Dabei haben auch unstrukturierte Daten Erkenntnisse zu bieten. Der Software-Spezialist Progress erläutert, wie Unternehmen die beiden Datentypen zu einem sinnvollen Ganzen…

    mehr lesen: Eine gemeinsame Sprache für Daten finden

  • IFS ernennt Hannes Liebe zum COO für Nord-, Ost und Zentraleuropa

    IFS ernennt Hannes Liebe zum COO für Nord-, Ost und Zentraleuropa

    Hannes Liebe übernimmt ab sofort die Position des neuen Chief Operation Officer (COO) von IFS für die Region Nord, Ost und Zentraleuropa.

    mehr lesen: IFS ernennt Hannes Liebe zum COO für Nord-, Ost und Zentraleuropa

  • SPS ab 2025 wieder Ende November

    SPS ab 2025 wieder Ende November

    Die SPS wird im nächsten Jahr (2025) vom 25. bis zum 27. November in Nürnberg stattfinden und somit wieder auf den seit vielen Jahren bekannten Zeitraum zurückkehren. Auch die Termine…

    mehr lesen: SPS ab 2025 wieder Ende November

  • Was Unternehmen gegen Produktpiraterie tun können

    Was Unternehmen gegen Produktpiraterie tun können

    Produktpiraterie verursacht immense Schäden in Wirtschaft und Gesellschaft – Eine neue Broschüre des Deutschen Patent- und Markenamts informiert, wie sich Unternehmen dagegen schützen und wehren können.

    mehr lesen: Was Unternehmen gegen Produktpiraterie tun können