Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • IFS kauft Copperleaf Technologies

    IFS kauft Copperleaf Technologies

    Der schwedische Anbieter von Business-Software IFS kauft Copperleaf Technologies. Das kanadische Unternehmen bietet Analytics-Software etwa für die Investitionsplanung und soll rund eine Milliarde kanadische Dollar kosten, rund 670 Millionen Euro.

    mehr lesen: IFS kauft Copperleaf Technologies

  • Wie steht es um KI und IoT bei unseren Nachbarn?

    Wie steht es um KI und IoT bei unseren Nachbarn?

    Wie etabliert sind Robotik, KI, ML, Big Data und IoT in den europäischen Ländern? Und wie schneidet Deutschland im Vergleich ab? Das hat Reichelt Elektronik Menschen in Deutschland, Frankreich, Italien…

    mehr lesen: Wie steht es um KI und IoT bei unseren Nachbarn?

  • Tech-Festival für Co-Creation in der Automatisierung

    Tech-Festival für Co-Creation in der Automatisierung

    Die vernetzte Fabrik, Datenräume und Automatisierung sind nur einige der Themen, die am 6. November in der Gläsernen Manufaktur Dresden im Mittelpunkt stehen. Für das Event Hub:Disrupt organisieren die Veranstalter…

    mehr lesen: Tech-Festival für Co-Creation in der Automatisierung

  • Kollektives und individuelles Lernen verzahnt

    Kollektives und individuelles Lernen verzahnt

    IT-Technik wie künstliche Intelligenz (KI) ermöglicht es Unternehmen, ganz neue Lernarchitekturen und -landschaften zu schmieden.

    mehr lesen: Kollektives und individuelles Lernen verzahnt

  • Drei Maßnahmen gegen Deepfake-Angriffe

    Drei Maßnahmen gegen Deepfake-Angriffe

    KI-gestützter Identitätsbetrug kommt weltweit häufiger vor. Allein in Österreich stieg die Zahl der Deepfake-Angriffe in diesem Jahr um 119 Prozent, ergab eine KPMG Austria-Umfrage. Mit diesen drei Maßnahmen lassen sich…

    mehr lesen: Drei Maßnahmen gegen Deepfake-Angriffe

  • IAB-Arbeitsmarktbarometer steigt erneut

    IAB-Arbeitsmarktbarometer steigt erneut

    Trotz anhaltend schwieriger Konjunktur bleibt der Arbeitsmarkt-Indikator des IAB in Deutschland das dritte Mal leicht im Plus.

    mehr lesen: IAB-Arbeitsmarktbarometer steigt erneut

  • China will Industrieroboter exportieren

    China will Industrieroboter exportieren

    Die chinesische Regierung will künftig verstärkt Industrieroboter exportieren, um Wirtschaftswachstum herbeizuführen.

    mehr lesen: China will Industrieroboter exportieren

  • Thorsten Steger ist CCO bei Industrie Informatik

    Thorsten Steger ist CCO bei Industrie Informatik

    Der MES-Hersteller Industrie Informatik hat Thorsten Steger zum CCO ernannt.

    mehr lesen: Thorsten Steger ist CCO bei Industrie Informatik

  • Preiserwartungen gehen leicht zurück

    Preiserwartungen gehen leicht zurück

    Vor allem in der Industrie und angrenzenden Dienstleistungen wollen weniger Unternehmen ihre Preise erhöhen, hat das IFO-Institut für August 2024 errechnet. Anders sieht es für Verbraucher und Bauträger aus. Hier…

    mehr lesen: Preiserwartungen gehen leicht zurück

  • Manning leitet VDI-Gesellschaft Verfahrenstechnik und Chemie

    Manning leitet VDI-Gesellschaft Verfahrenstechnik und Chemie

    Vivian Manning vertritt seit dem 1. August die Interessen der VDI-Gesellschaft Verfahrenstechnik und Chemie.

    mehr lesen: Manning leitet VDI-Gesellschaft Verfahrenstechnik und Chemie

  • Wie sieht die Zukunft der IT/OT-Konvergenz aus?

    Wie sieht die Zukunft der IT/OT-Konvergenz aus?

    Der IT/OT Convergence Summit 2024 findet am 18. und 19. September in Darmstadt statt. Veranstalter Aonic lädt ein, sich über die Verknüpfung der digitalen Welt der IT mit der realen…

    mehr lesen: Wie sieht die Zukunft der IT/OT-Konvergenz aus?

  • Eine der größten Aufdach-Solaranlagen Bayerns

    Eine der größten Aufdach-Solaranlagen Bayerns

    Der Folienhersteller Allvac hat seine Produktion modernisiert und setzt dabei nicht nur auf neue Technik, sondern auch auf regenerative Energie. Dafür hat die Firma in Waltenhofen in Bayern über zehn…

    mehr lesen: Eine der größten Aufdach-Solaranlagen Bayerns