Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Pepperl+Fuchs wird Teil des MVTec-Technologiepartnerprogramms

    Pepperl+Fuchs wird Teil des MVTec-Technologiepartnerprogramms

    MVTec Software und Pepperl+Fuchs stärken ihre technologische Zusammenarbeit im Bereich der industriellen Bildverarbeitung.

    mehr lesen: Pepperl+Fuchs wird Teil des MVTec-Technologiepartnerprogramms

  • Manufacturing-X-Demonstrator von VDMA und T-Systems

    Manufacturing-X-Demonstrator von VDMA und T-Systems

    Der VDMA und T-Systems präsentieren gemeinsam mit der Initiative Umati (universal machine technology interface) auf der diesjährigen Hannover Messe eine erste globale Manufacturing-X-Umsetzung mit offenen Standards für Maschinendaten.

    mehr lesen: Manufacturing-X-Demonstrator von VDMA und T-Systems

  • VDI stellt Führungsspitze neu auf

    VDI stellt Führungsspitze neu auf

    Der VDI stellt seine Führungsspitze in zentralen Bereichen neu auf: Daniel Kölle übernimmt die Leitung des Bereichs Politik und Kommunikation; Thomas Kiefer wird Bereichsleiter Beruf, Bildung und Netzwerke.

    mehr lesen: VDI stellt Führungsspitze neu auf

  • Unsere Podcasts auf der der OWW

    Unsere Podcasts auf der der OWW

    Ab sofort finden sich die Podcast-Formate des TeDo Verlages auch auf der Open Webinar World.

    mehr lesen: Unsere Podcasts auf der der OWW

  • China will 1 Billion Yuan in die Robotik- und Hightech-Industrie investieren

    China will 1 Billion Yuan in die Robotik- und Hightech-Industrie investieren

    Die Staatliche Kommission für Entwicklung und Reform Chinas hat angekündigt, einen öffentlich geförderten Wagniskapitalfonds für Robotik, künstliche Intelligenz und Spitzeninnovationen einzurichten.

    mehr lesen: China will 1 Billion Yuan in die Robotik- und Hightech-Industrie investieren

  • Wenn der Clever-Hans-Effekt zuschlägt

    Wenn der Clever-Hans-Effekt zuschlägt

    KI-Modelle wie GPT, Llama oder Clipdienen dienen oft als Ausgangsbasis für spezialisierte KI-Modelle, die in der Wissenschaft, Industrie und nicht zuletzt in der medizinischen Diagnostik eingesetzt werden.

    mehr lesen: Wenn der Clever-Hans-Effekt zuschlägt

  • AMA-Mitglieder mit verhaltenem Optimismus für 2025

    AMA-Mitglieder mit verhaltenem Optimismus für 2025

    Der AMA Verband für Sensorik und Messtechnik hat seine Mitglieder Anfang des Jahres zur wirtschaftlichen Entwicklung 2024 befragt.

    mehr lesen: AMA-Mitglieder mit verhaltenem Optimismus für 2025

  • BSI als EUCC-Zertifizierungsstelle notifiziert

    BSI als EUCC-Zertifizierungsstelle notifiziert

    Das Bundesamt für Sicherheit in der Informationstechnik (BSI) wurde als alleinige staatliche Zertifizierungsstelle gemäß der Verordnung (EU) 2019/881 (Cybersercurity Act, CSA) bei der Europäischen Kommission (EU-KOM) notifiziert.

    mehr lesen: BSI als EUCC-Zertifizierungsstelle notifiziert

  • Logicalis, Siticom und Orange Networks unter einem Dach

    Logicalis, Siticom und Orange Networks unter einem Dach

    Unter dem Motto ‚One Logicalis‘ firmieren die Logicalis-Tochterunternehmen Siticom und Orange Networks künftig ebenfalls als Logicalis – unter gemeinsamer Führung mit der Logicalis GmbH.

    mehr lesen: Logicalis, Siticom und Orange Networks unter einem Dach

  • Konjunktur-Dämpfer für Intralogistikbranche

    Konjunktur-Dämpfer für Intralogistikbranche

    Im vergangenen Jahr konnten die Hersteller von Fördertechnik und Intralogistik aus Deutschland den konjunkturellen Herausforderungen trotzen.

    mehr lesen: Konjunktur-Dämpfer für Intralogistikbranche

  • Kooperation von Dürr und Grob

    Kooperation von Dürr und Grob

    Dürr und Grob setzen ihre strategische Kooperation im Bereich Produktionstechnologie für Batteriezellen fort. Der dritte Gründungspartner, der Maschinenbauer Manz, ist ausgestiegen.

    mehr lesen: Kooperation von Dürr und Grob

  • Wo Deutschland Exportweltmeister ist

    Wo Deutschland Exportweltmeister ist

    Bestimmte Medikamente, chemische Halbstoffe, optische Mikroskope: Bei all diesen Waren ist Deutschland besonders stark und dominant im Export.

    mehr lesen: Wo Deutschland Exportweltmeister ist