Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Pal2Rec forscht an sensorbasierter Aktivitätserkennung

    Pal2Rec forscht an sensorbasierter Aktivitätserkennung

    Als Ladungsträger bewegen Paletten Dinge von A nach B. Das im Februar 2024 gestartete Projekt ’Pal2Rec’ untersucht nun, wie sich (Euro-)Paletten eigenständig in logistische Prozesse mittels sensorbasierter Aktivitätserkennung einbeziehen lassen.

    mehr lesen: Pal2Rec forscht an sensorbasierter Aktivitätserkennung

  • Bessere CO2-Bilanz durch additiv gefertigte Komponenten

    Bessere CO2-Bilanz durch additiv gefertigte Komponenten

    Der Autobau kann mit maßgeschneiderten Komponenten die CO2-Bilanz von Werkzeugen und Maschinen verbessern und mit einbaufertigen Komponenten, sogenannten ’Engineered Products’, Leistungssteigerungen bei den Materialeigenschaften erzielen. Das zeigt eine Fallstudie in…

    mehr lesen: Bessere CO2-Bilanz durch additiv gefertigte Komponenten

  • Emissionen von künstlicher Intelligenz beziffern

    Emissionen von künstlicher Intelligenz beziffern

    Auch künstliche Intelligenz verbraucht Ressourcen. Forschende des Instituts für ökologische Wirtschaftsforschung, AlgorithmWatch und des DAI-Labors der TU Berlin fordern daher, die Nachhaltigkeitsauswirkungen von KI über den gesamten Lebenszyklus hinweg stärker…

    mehr lesen: Emissionen von künstlicher Intelligenz beziffern

  • Was Anwender von KI-Anbietern erwarten

    Was Anwender von KI-Anbietern erwarten

    Welche Voraussetzungen müssen erfüllt sein, damit Anwender KI-Anbietern vertrauen können und deren KI-Lösung nutzen? Diese Frage steht im Mittelpunkt des Forschungsprojektes ‘TrustKI’, das Anfang 2023 am Institut für Internet-Sicherheit –…

    mehr lesen: Was Anwender von KI-Anbietern erwarten

  • Materialengpässe in der Industrie weiter rückläufig

    Materialengpässe in der Industrie weiter rückläufig

    12,5 Prozent der Industrieunternehmen klagen nach wie vor über Materialengpässe. Nach Angaben des Ifo Instituts ging der Wert im Vergleich zum Vormonat jedoch erneut zurück.

    mehr lesen: Materialengpässe in der Industrie weiter rückläufig

  • DMG Mori baut Standort München zur Europazentrale aus

    DMG Mori baut Standort München zur Europazentrale aus

    München wird zur Europazentrale von DMG Mori. Der Werkzeugmaschinenhersteller errichtet dort das Business-Quartier ‚Go Four It‘ und mietet zusätzlich Gebäudeflächen.

    mehr lesen: DMG Mori baut Standort München zur Europazentrale aus

  • Xplanis gründet deutsche Tochtergesellschaft

    Xplanis gründet deutsche Tochtergesellschaft

    Xplanis, ein Spezialist für Transport Management Software, steigt in den deutschen Markt ein. Die Geschäftsführung der Xplanis Deutschland GmbH übernimmt Volker Möller.

    mehr lesen: Xplanis gründet deutsche Tochtergesellschaft

  • Mesago zieht positive SPS-Bilanz

    Mesago zieht positive SPS-Bilanz

    In ihrer Messeanalyse zieht die Mesago Messe Frankfurt ein positives Fazit der SPS in Nürnberg. Demnach erfuhr die Veranstaltung großen Zuspruch seitens Ausstellern und Fachbesuchern.

    mehr lesen: Mesago zieht positive SPS-Bilanz

  • WIIT übernimmt Teil von German Edge Cloud

    WIIT übernimmt Teil von German Edge Cloud

    Die WIIT, ein Cloud Computing-Anbieter aus Italien, hat über die deutsche Tochtergesellschaft WIIT AG einen Vertrag zum Erwerb des Geschäftsbereichs Edge & Cloud der zur Friedhelm Loh Group gehörenden German…

    mehr lesen: WIIT übernimmt Teil von German Edge Cloud

  • Aufatmen in der deutschen Automobilindustrie

    Aufatmen in der deutschen Automobilindustrie

    Im Januar hat sich die Stimmung der deutschen Autobauer verbessert. Trotz einiger positiver Signale, gibt das Ifo Institut jedoch noch keine Entwarnung. Unter anderem bereiten Auftragslage und der Fachkräftemangel sorgen.

    mehr lesen: Aufatmen in der deutschen Automobilindustrie

  • Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

    Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

    Am 21. Februar 2024 starten die Maintenance als Messe für die industrielle Instandhaltung und die Pumps&Valves als Fachmesse für industrielle Pumpen, Armaturen und Ventile. Auf die Fachbesucher warten rund 240…

    mehr lesen: Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

  • Führungswechsel bei Schneider Electric DACH

    Führungswechsel bei Schneider Electric DACH

    Stefan Gierse wird mit Wirkung zum April neuer Zone President der DACH-Organisation von Schneider Electric. Der 45-Jährige war zuvor für Siemens tätig.

    mehr lesen: Führungswechsel bei Schneider Electric DACH