Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Smart Factory Week startet Mitte September

    Smart Factory Week startet Mitte September

    Die Smart Factory Week von MPDV geht vom 16. bis 19. September 2024 in die vierte Runde. Das Online-Event richtet sich an Einsteiger und Nutzer digitaler Fertigungsprozesse und Management Execution…

    mehr lesen: Smart Factory Week startet Mitte September

  • Neuer Managing Director Germany bei Commvault

    Neuer Managing Director Germany bei Commvault

    Seit Juli hat die Commvault Systems einen neuen Management Director für Deutschland. Frank Dehne folgt in dieser Position auf Peter Kayi.

    mehr lesen: Neuer Managing Director Germany bei Commvault

  • BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    Nach den weltweiten IT-Störungen am 19. Juli 2024 hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) im Gespräch mit den Software-Unternehmen Crowdstrike und Microsoft erste Maßnahmen entwickelt, um vergleichbare…

    mehr lesen: BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

  • Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

    Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

    Wissenschaftler der Universitäten Paderborn und Göttingen untersuchen in einer Studie, wie technologiebezogene Verschwörungstheorien zustande kommen und welche Auswirkungen diese haben können.

    mehr lesen: Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

  • B-Human erneut beim RoboCup erfolgreich

    B-Human erneut beim RoboCup erfolgreich

    Das Team B-Human der Universität Bremen und des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) errang bei der RoboCup-Weltmeisterschaft in Eindhoven den Titel – und das bereits zum elften Mal.

    mehr lesen: B-Human erneut beim RoboCup erfolgreich

  • Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

    Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

    Unternehmen kämpfen noch mit den Cybersicherheitsanforderungen der neuen NIS-2-Richtlinie. Laut einer aktuellen Studie von BlackBerry scheint die Software-Lieferkette ein entscheidender Faktor dafür zu sein.

    mehr lesen: Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

  • Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

    Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

    Bosch setzt seinen Wachstumskurs mit einer strategischen Akquisition fort: Für seinen Bereich Energy and Building Technology plant die Unternehmensruppe das weltweite Heizungs-, Lüftungs- und Klimalösungsgeschäft für Wohn- und kleine Gewerbegebäude…

    mehr lesen: Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

  • EmpowerMX wird Teil von IFS

    EmpowerMX wird Teil von IFS

    IFS erweitert sein Produktportfolio mit der Übernahme von EmpowerMX um eine Wartungssoftware für die Luftfahrtindustrie.

    mehr lesen: EmpowerMX wird Teil von IFS

  • Neuer CFO für Rockwell Automation

    Neuer CFO für Rockwell Automation

    Rockwell Automation hat bekannt gegeben, dass Christian Rothe am 19. August als Senior Vice President und Chief Financial Officer in das Unternehmen eintreten wird.

    mehr lesen: Neuer CFO für Rockwell Automation

  • Kontron erweitert Vorstand

    Kontron erweitert Vorstand

    Mit Philipp Schulz und Johannes Fues hat Kontron zwei neue Vorstandsmitglieder. Zudem gibt das Unternehmen die Vertragsverlängerung von Vorstandsmitglied Michael Riegert bekannt.

    mehr lesen: Kontron erweitert Vorstand

  • Fehlerhaftes Update sorgt weltweit für Ausfälle

    Fehlerhaftes Update sorgt weltweit für Ausfälle

    Ein fehlerhaftes Update einer Sicherheitssoftware hatte am Freitag weltweit für IT-Ausfälle auf Windows-Systemen gesorgt. Aber auch Microsoft selbst meldete Probleme. Mittlerweile hat sich die Situation nach Angaben des BSI wieder…

    mehr lesen: Fehlerhaftes Update sorgt weltweit für Ausfälle

  • Geschäftsklima in der Chemischen Industrie verschlechtert sich

    Geschäftsklima in der Chemischen Industrie verschlechtert sich

    Zuletzt stieg der Ifo-Index der Chemischen Industrie vier Mal in Folge. Im Juni hat sich die Stimmung jedoch wieder verschlechtert.

    mehr lesen: Geschäftsklima in der Chemischen Industrie verschlechtert sich