Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • TDM Systems und Cribwise bilden Tool Flow Solutions

    TDM Systems und Cribwise bilden Tool Flow Solutions

    Der Sandvik-Konzern hat den Geschäftsbereich Tool Flow Solutions ins Leben gerufen. Erste Mitglieder werden die beiden Tochterunternehmen TDM Systems und Cribwise.

    mehr lesen: TDM Systems und Cribwise bilden Tool Flow Solutions

  • 2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

    2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

    Trotz eines Rückgangs bei Umsätzen und Auslieferungen von Industrierobotern im Jahr 2023 prognostizieren die Marktforscher von Interact Analysis ein jährliches Marktwachstum von 3,7 Prozent bis 2028.

    mehr lesen: 2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

  • Quantencomputing made in Germany

    Quantencomputing made in Germany

    Quantencomputer haben eine besonders hohe Rechenleistung und können so komplexe Probleme lösen. Wie? Davon können sich Unternehmen und Forschungsteams nun im Hamburg ein Bild machen.

    mehr lesen: Quantencomputing made in Germany

  • USA führend bei Digitalinnovationen

    USA führend bei Digitalinnovationen

    Die Innovationstätigkeit in Digitaltechnologien nimmt weiter an Fahrt auf. Und laut Deutschem Patent- und Markenamt dominieren die USA und China in diesen Bereichen. Die deutsche Bilanz ist zwiespältig.

    mehr lesen: USA führend bei Digitalinnovationen

  • Smarties warnen vor Extremereignissen

    Smarties warnen vor Extremereignissen

    Im Forschungsprojekt Smarties entwickelt und testet das Max-Planck-Institut für Dynamik und Selbstorganisation (MPI-DS) zusammen mit dem Fraunhofer-Institut für Integrierte Schaltungen IIS ein System intelligenter Miniballons mit atmosphärischen Tracern – sogenannten…

    mehr lesen: Smarties warnen vor Extremereignissen

  • Europa mit vergleichsweise niedrigem KI-Reifegrad

    Europa mit vergleichsweise niedrigem KI-Reifegrad

    Data Analytics und KI sollen KMU helfen, Wettbewerbsvorteile zu sichern. Laut einer Studie von AWS liegt Europa beim Reifegrad künstlicher Intelligenz jedoch hinter anderen Regionen zurück.

    mehr lesen: Europa mit vergleichsweise niedrigem KI-Reifegrad

  • VDI will Deutschland fit für die Zukunft machen

    VDI will Deutschland fit für die Zukunft machen

    Die Aufgaben der Transformation sind gewaltig: Um ihren Herausforderungen zu begegnen, startet der VDI die Initiative ’Zukunft Deutschland 2050‘.

    mehr lesen: VDI will Deutschland fit für die Zukunft machen

  • Lena Weirauch von ai-omatic solutions über die Gründung eines Startups

    Lena Weirauch von ai-omatic solutions über die Gründung eines Startups

    Frauen sind im MINT-Bereich immer noch stark unterrepräsentiert, nur 11 Prozent aller Ingenieure sind weiblich und nur 17 Prozent beträgt der Frauenanteil im deutschen Maschinenbau allgemein. Doch woran liegt das?…

    mehr lesen: Lena Weirauch von ai-omatic solutions über die Gründung eines Startups

  • Wie Unternehmen Augmented und Virtual Reality nutzen

    Wie Unternehmen Augmented und Virtual Reality nutzen

    Je ein Fünftel der Unternehmen in Deutschland setzt bereits AR- oder VR-Technologie. Laut einer Bitkom-Befragung dominieren Schulung und Weiterbildung sowie Konstruktion und Planung die Anwendungen.

    mehr lesen: Wie Unternehmen Augmented und Virtual Reality nutzen

  • Stimmung in der Automobilindustrie kühlt ab

    Stimmung in der Automobilindustrie kühlt ab

    Nach zuletzt etwas besseren Werten im April bewegt sich der Ifo-Indikator für das Geschäftsklima in der Automobilindustrie im Mai wieder in die andere Richtung.

    mehr lesen: Stimmung in der Automobilindustrie kühlt ab

  • Petra Boss wird Co-CFO bei Xitaso

    Petra Boss wird Co-CFO bei Xitaso

    Mit Petra Boss hat Xitaso eine neue Geschäftsführerin. Als Co-CFO verantwortet die 55-Jährige gemeinsam mit Martin Huggenberger den Finance- und Legal-Bereich des Unternehmens.

    mehr lesen: Petra Boss wird Co-CFO bei Xitaso

  • Dämpfer für das IAB-Arbeitsmarktbarometer

    Dämpfer für das IAB-Arbeitsmarktbarometer

    Im Vergleich zum Vormonat sinkt das IAB-Arbeitsmarktbarometer im Mai 2024 um 0,8 Punkte. Der Frühindikator des Instituts für Arbeitsmarkt- und Berufsforschung (IAB) befindet sich nun mit 99,8 Punkten unter dem…

    mehr lesen: Dämpfer für das IAB-Arbeitsmarktbarometer