Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Cyberbedrohungen auf Rekord-Niveau

    Cyberbedrohungen auf Rekord-Niveau

    2023 blockierte Trend Micro mehr als 161 Milliarden Cyberbedrohungen weltweit – 10 Prozent mehr als im Jahr zuvor und fast 107 Milliarden mehr als noch vor fünf Jahren.

    mehr lesen: Cyberbedrohungen auf Rekord-Niveau

  • Deutsche Unternehmen melden wieder mehr Erfindungen an

    Deutsche Unternehmen melden wieder mehr Erfindungen an

    Die Zahl der Patentanmeldungen beim Deutschen Patent- und Markenamt ist im Jahr 2023 gestiegen. Größere Anstiege zeigten sich bei den Digitaltechnologien und bei der Elektromobilität.

    mehr lesen: Deutsche Unternehmen melden wieder mehr Erfindungen an

  • Automatisierungspotenzial steigt auch in Expertenberufen

    Automatisierungspotenzial steigt auch in Expertenberufen

    Auch hochqualifizierte Beschäftigte bekommen die Digitalisierung zu spüren. Laut einer Untersuchung des IAB steigt der Anteil automatisierbarer Tätigkeiten in diesen sogenannten Expertenberufen besonders stark.

    mehr lesen: Automatisierungspotenzial steigt auch in Expertenberufen

  • Jahrestagung ‚Enterprise Portfolio- und Projektmanagement mit SAP‘

    Jahrestagung ‚Enterprise Portfolio- und Projektmanagement mit SAP‘

    Unter dem Motto ’Berichte, Praxiserfahrungen, Neuigkeiten und Umsetzung rund um das SAP EPPM’ bietet die 25. Jahrestagung Enterprise Portfolio- und Projektmanagement mit SAP am 16. und 17. Mai 2024 in…

    mehr lesen: Jahrestagung ‚Enterprise Portfolio- und Projektmanagement mit SAP‘

  • Roboterzelle steckt Brennstoffzellen in Sekundenschnelle

    Roboterzelle steckt Brennstoffzellen in Sekundenschnelle

    Ein Forschungsteam vom Fraunhofer IPA und vom Campus Schwarzwald hat eine Roboterzelle aufgebaut, die Brennstoffzellen in Sekundenschnelle und automatisiert stecken kann. Brennstoffzellensysteme könnten so günstiger werden und den Verbrenner im…

    mehr lesen: Roboterzelle steckt Brennstoffzellen in Sekundenschnelle

  • Marcus Mead wird neuer Europa-Chef

    Marcus Mead wird neuer Europa-Chef

    Seit 1. März 2024 ist Marcus Mead neuer Executive Officer Regional Manager Europe, Chairman & President der Yaskawa Europe. Er folgt auf Bruno J. Schnekenburger, der in den Ruhestand tritt.

    mehr lesen: Marcus Mead wird neuer Europa-Chef

  • Unternehmen kämpfen mit intransparenten Supply-Chain-Daten

    Unternehmen kämpfen mit intransparenten Supply-Chain-Daten

    Viele Logistiker müssen mit veralteten Daten arbeiten. Dies zeigt eine Studie von InterSystems in der fast die Hälfte der Befragten über fehlende Transparenz in der Lieferkette klagen.

    mehr lesen: Unternehmen kämpfen mit intransparenten Supply-Chain-Daten

  • Siemens schließt sich Semiconductor Education Alliance an

    Siemens schließt sich Semiconductor Education Alliance an

    Die Semiconductor Education Alliance hat sich zum ziel gesetzt, die Bildung im Bereich Halbleiter zu verbessern. Als neuestes Mitglied hat sich Siemens der Allianz angeschlossen.

    mehr lesen: Siemens schließt sich Semiconductor Education Alliance an

  • SpiraTec France nimmt Arbeit auf

    SpiraTec France nimmt Arbeit auf

    SpiraTec expandiert und gibt die Gründung einer französischen Tochtergesellschaft in Paris bekannt. Zudem plant das Unternehmen die Eröffnung weiterer Standorte.

    mehr lesen: SpiraTec France nimmt Arbeit auf

  • CamLine erwirbt Romaric

    CamLine erwirbt Romaric

    Der MES-Spezialist CamLine übernimmt das US-Softwareunternehmen Romaric und nimmt damit auch intralogistische Transportprozesse in den Blick.

    mehr lesen: CamLine erwirbt Romaric

  • Vorbereitungen für Motek und Bondexpo laufen

    Vorbereitungen für Motek und Bondexpo laufen

    Die Hürden der Automatisierung sinken weiter. Das will die diesjährige 42. Motek, internationale Fachmesse für Produktions- und Montageautomatisierung, zusammen mit der 17. Bondexpo, internationale Fachmesse für Klebtechnologie, zeigen und stellen…

    mehr lesen: Vorbereitungen für Motek und Bondexpo laufen

  • Weniger Studienanfänger in Ingenieurwissenschaften

    Weniger Studienanfänger in Ingenieurwissenschaften

    Die Zahl der offenen Stellen in den Ingenieurberufen ist trotz konjunktureller Eintrübung hoch. Laut VDI Ingenieurmonitor ist die Zahl der Studienanfänger und -anfängerinnen im ersten Hochschulsemester in den Fächern Ingenieurwissenschaften…

    mehr lesen: Weniger Studienanfänger in Ingenieurwissenschaften