Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Der IT.Connect meets Cybersecurity Day 2024

    Der IT.Connect meets Cybersecurity Day 2024

    Am 5. November 2024 wird die Congresshalle Saarbrücken im Rahmen des IT.Connect meets Cybersecurity Day zu einem Zentrum der IT- und Cybersicherheitsbranche.

    mehr lesen: Der IT.Connect meets Cybersecurity Day 2024

  • Die Krux mit der Kundenzufriedenheit

    Die Krux mit der Kundenzufriedenheit

    Syncron, ein Hersteller für Service-Lifecycle-Management (SLM), hat die Studie ‚Modernizing the Aftermarket‘ veröffentlicht.

    mehr lesen: Die Krux mit der Kundenzufriedenheit

  • Schwache Entwicklung der regionalen Arbeitsmärkte

    Schwache Entwicklung der regionalen Arbeitsmärkte

    Wie das Institut für Arbeitsmarkt und Berufsforschung nun mitteilt, steigt die sozialversicherungspflichtige Beschäftigung nicht mehr in allen Bundesländern – die Arbeitslosigkeit nimmt überall zu.

    mehr lesen: Schwache Entwicklung der regionalen Arbeitsmärkte

  • Automobilindustrie: Stimmung leicht verbessert

    Automobilindustrie: Stimmung leicht verbessert

    Der Geschäftsklimaindex der deutschen Automobilindustrie ist im September um 1,3 Punkte gestiegen. Der Indikator bleibt aber mit -23 Punkten im langfristigen Vergleich auf sehr niedrigem Niveau.

    mehr lesen: Automobilindustrie: Stimmung leicht verbessert

  • Accenture und Nvidia erweitern Partnerschaft

    Accenture und Nvidia erweitern Partnerschaft

    Accenture und Nvidia haben die Erweiterung ihrer Partnerschaft im Bereich künstlicher Intelligenz bekannt gegeben.

    mehr lesen: Accenture und Nvidia erweitern Partnerschaft

  • ctrlX Automation: mehr Partner und neues OS-Release

    ctrlX Automation: mehr Partner und neues OS-Release

    Auf einer Pressekonferenz hat Bosch Rexroth die News und Neuheiten zu ctrlX Automation vorgestellt.

    mehr lesen: ctrlX Automation: mehr Partner und neues OS-Release

  • Cyberagentur lässt mobilen Quantencomputer bauen

    Cyberagentur lässt mobilen Quantencomputer bauen

    Infineon Technologies wurde gemeinsam mit dem Technologiepartner Oxford Ionics in einem Ausschreibungsverfahren der Agentur für Innovation in der Cybersicherheit (Cyberagentur) als eines von drei Konsortien ausgewählt, binnen drei Jahren einen…

    mehr lesen: Cyberagentur lässt mobilen Quantencomputer bauen

  • Körber Supply Chain Software übernimmt MercuryGate

    Körber Supply Chain Software übernimmt MercuryGate

    Körber Supply Chain Software, ein Joint Venture von Körber und KKR und Anbieter von End-to-End Supply-Chain-Software schließt die Übernahme von MercuryGate International, einem Anbieter von Transportmanagementsystemen (TMS), ab.

    mehr lesen: Körber Supply Chain Software übernimmt MercuryGate

  • FMB-Veranstalter rücken Nachhaltigkeit in den Fokus

    FMB-Veranstalter rücken Nachhaltigkeit in den Fokus

    Die FMB steht in den Startlöchern und aktuell (Stand Anfang September) sind mehr als 350 Aussteller zur Messe von 5. bis 7. November 2024 angemeldet.

    mehr lesen: FMB-Veranstalter rücken Nachhaltigkeit in den Fokus

  • Fragmentierte Regulierung: Verpasst die EU den Anschluss im KI-Zeitalter?

    Fragmentierte Regulierung: Verpasst die EU den Anschluss im KI-Zeitalter?

    Vertreter aus Wirtschaft, Forschung und Technologie – darunter auch Börje Ekholm, Präsident und CEO des 5G- und Mobilfunkausrüsters Ericsson – haben einen offenen Brief unterzeichnet, in dem die Unterzeichnenden die…

    mehr lesen: Fragmentierte Regulierung: Verpasst die EU den Anschluss im KI-Zeitalter?

  • DFKI optimiert Systementwicklung mit hybrider KI und menschlichem Feedback

    DFKI optimiert Systementwicklung mit hybrider KI und menschlichem Feedback

    Die jüngsten Entwicklungen in der Robotik lassen die Vision von Robotern, die als persönliche Assistenten und Interaktionspartner für den Menschen komplexe Aufgaben übernehmen, näher rücken.

    mehr lesen: DFKI optimiert Systementwicklung mit hybrider KI und menschlichem Feedback

  • Wie steht es um Quantentechnologie aus Deutschland?

    Wie steht es um Quantentechnologie aus Deutschland?

    Deutschland hat bei der Forschung zu Quantentechnologien eine weltweite Vorreiterrolle und kann führend in der Entwicklung und Anwendung von Quantum Computing werden.

    mehr lesen: Wie steht es um Quantentechnologie aus Deutschland?