Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • 5G-Ortungslösung für die Industrie

    5G-Ortungslösung für die Industrie

    Im Rahmen einer Partnerschaft haben die Telekom und Trumpf eine Ortungslösung entwickelt, die in einem 5G-Campusnetz betrieben werden kann. Durch den Omlox-Standard lassen sich unterschiedliche Endgeräte miteinander kombinieren.

    mehr lesen: 5G-Ortungslösung für die Industrie

  • Mit Low-Code gegen den Entwicklungsstau

    Mit Low-Code gegen den Entwicklungsstau

    Die Pandemie hat die Digitalisierung beschleunigt, aber auch zu einem zunehmendem Software-Entwicklungsstau geführt, so eine Studie von Mendix. Ein Low-Code-Ansatz kann helfen den damit einhergehenden Problemen zu begegnen.

    mehr lesen: Mit Low-Code gegen den Entwicklungsstau

  • Jochen Weyrauch folgt auf Ralf Dieter

    Jochen Weyrauch folgt auf Ralf Dieter

    Seit 2006 ist Ralf W. Dieter Vorstandsvorsitzender der Dürr AG. Zum Jahresende wird er sein Amt zur Verfügung stellen. Seine Nachfolge tritt Jochen Weyrauch an.

    mehr lesen: Jochen Weyrauch folgt auf Ralf Dieter

  • Zugang zur Formnext nur für Geimpfte und Genesene

    Zugang zur Formnext nur für Geimpfte und Genesene

    Im November findet die 3D-Druck-Messe Formnext in Frankfurt statt. Wie der Veranstalter nun bekanntgegeben hat, kommt dabei die 2G-Regel zum tragen.

    mehr lesen: Zugang zur Formnext nur für Geimpfte und Genesene

  • Lieferengpässe drücken die Stimmung der Automobilindustrie

    Lieferengpässe drücken die Stimmung der Automobilindustrie

    Die Engpässe bei Vorprodukten wirken sich derzeit quasi auf alle Teile der Industrie aus. Besonders davon betroffen ist allerdings die Automobilindustrie, was sich auch in aktuellen Zahlen des Ifo Instituts…

    mehr lesen: Lieferengpässe drücken die Stimmung der Automobilindustrie

  • Datenwirtschaft und KI als Chance begreifen

    Datenwirtschaft und KI als Chance begreifen

    Laut einer ZVEI-Umfrage fühlen sich die Unternehmen der Elektronikbranche eingeschränkt, wenn es um die Nutzung von Daten geht, auch aufgrund von Rechtsunsicherheiten bezüglich der DSGVO.

    mehr lesen: Datenwirtschaft und KI als Chance begreifen

  • Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

    Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

    Nach einer Analyse des Technologie-Dienstleisters NTT haben Ransomware-Attacken ein neues Rekordniveau erreicht: Bis zum Jahresende müssen sich Unternehmen alle elf Sekunden auf einen Angriff mit Erpresser-Schadsoftware einstellen. Dabei nutzen Cyberkriminelle…

    mehr lesen: Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

  • Weg ins Firmennetzwerk oft schlecht gesichert

    Weg ins Firmennetzwerk oft schlecht gesichert

    In Deutschland nutzen die Menschen laut einer G Data-Erhebung zu selten sichere Passwörter, Antiviren-Programme oder Zwei-Faktor-Authentifizierung. Damit steigt das Risiko im beruflichen und auch im privaten Bereich.

    mehr lesen: Weg ins Firmennetzwerk oft schlecht gesichert

  • Spatenstich für Neubau des Fraunhofer IPA

    Spatenstich für Neubau des Fraunhofer IPA

    In dieser Woche erfolgte der Spatenstich für den Neubau des Fraunhofer Instituts für Produktionstechnik und Automatisierung. Das Investitionsvolumen beträgt rund 37Mio.€.

    mehr lesen: Spatenstich für Neubau des Fraunhofer IPA

  • Peter Schneck wird Cenit-CEO

    Peter Schneck wird Cenit-CEO

    Peter Schneck wird Mitglied des Vorstands bei der Cenit AG und übernimmt zum 1. Januar 2022 die Position des CEO. Er folgt auf Kurt Bengel der das Unternehmen plangemäß zum…

    mehr lesen: Peter Schneck wird Cenit-CEO

  • Rekordjahr für Investitionen in Quantentechnologien

    Rekordjahr für Investitionen in Quantentechnologien

    Der McKinsey ‘Quantum Technology Monitor’ zeigt eine Zunahme der globalen Markt – und Technologieentwicklungen von Quantentechnologien. Dabei sind die angekündigten Investitionen im laufenden Jahr dreimal so hoch wie in 2020.

    mehr lesen: Rekordjahr für Investitionen in Quantentechnologien

  • Stimmung in der Industrie belastet Geschäftsklima

    Stimmung in der Industrie belastet Geschäftsklima

    Nach einem Rückgang im August ist der Ifo-Geschäftsklimaindex auch im September gesunken. Belastet werden die Zahlen dabei durch die schlechtere Stimmung in der Industrie.

    mehr lesen: Stimmung in der Industrie belastet Geschäftsklima