Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Neues Mitglied in der Geschäftsführung

    Neues Mitglied in der Geschäftsführung

    Mit der Berufung von Sarah Bäumchen in die Geschäftsleitung baut der ZVEI seine Führungsspitze aus. Bäumchen soll darüber hinaus das Berliner Büro des Verbands leiten.

    mehr lesen: Neues Mitglied in der Geschäftsführung

  • 5 wichtige Faktoren

    5 wichtige Faktoren

    Die fortschreitende Digitalisierung macht Cyber-Angriffe für Unternehmen zunehmend geschäftskritisch. Sicherheitslücken nutzen Cyber-Kriminelle gezielt für ihre mehrstufigen Attacken.

    mehr lesen: 5 wichtige Faktoren

  • Rockwell Automation gibt neue Initiative bekannt

    Rockwell Automation gibt neue Initiative bekannt

    Rockwell Automation hat neue Investitionen bekannt gegeben, mit denen die Cybersecurity-Angebote für Informationstechnologie (IT) und Betriebstechnologie (OT) erweitert werden.

    mehr lesen: Rockwell Automation gibt neue Initiative bekannt

  • Lösungen für Einsatz künstlicher Intelligenz in der Produktion

    Lösungen für Einsatz künstlicher Intelligenz in der Produktion

    Im Projekt ‚Datenfabrik.NRW‘ erarbeiten vier Fraunhofer-Institute (Entwurfstechnik Mechatronik IEM, Materialfluss und Logistik IML, Optronik, Systemtechnik und Bildauswertung IOSB und Intelligente Analyse- und Informationssysteme IAIS) Anwendungen für den Einsatz von künstlicher…

    mehr lesen: Lösungen für Einsatz künstlicher Intelligenz in der Produktion

  • Was Unternehmen beim KI-Einsatz heute anders machen würden

    Was Unternehmen beim KI-Einsatz heute anders machen würden

    Nahezu die Hälfte der für eine Reichelt Elektronik-Studie befragten Unternehmen würde Implementierung von künstlicher Intelligenz nach heutigem Stand anders angehen. Beispielsweise würden sie Mitarbeiter stärker einbeziehen.

    mehr lesen: Was Unternehmen beim KI-Einsatz heute anders machen würden

  • Softwarebasis für flexiblere Automobilfertigung

    Softwarebasis für flexiblere Automobilfertigung

    Um Produktionssysteme in der Automobilindustrie schneller, flexibler und effizienter zu gestalten soll im Forschungsprojekt ’Software-Defined Manufacturing für die Fahrzeug- und Zulieferindustrie (SDM4FZI)‘ eine neue technologische Grundlage entwickelt werden.

    mehr lesen: Softwarebasis für flexiblere Automobilfertigung

  • Wieder mehr Kurzarbeit im November

    Wieder mehr Kurzarbeit im November

    Erstmals seit Februar ist die Zahl der Kurzarbeitenden in Deutschland wieder gestiegen. Wie das Ifo Institut mitteilt, waren im November 10.000 Beschäftigte mehr in Kurzarbeit als noch im Oktober.

    mehr lesen: Wieder mehr Kurzarbeit im November

  • Datasensing geht an den Start

    Datasensing geht an den Start

    Zum Jahreswechsel geht das Unternehmen Datasensing an den Start. Das Unternehmen entsteht aus dem Zusammenschluss von Micro Detectors und dem Datalogic-Geschäftsbereich ‘Sensor & Safety and Machine Vision‘.

    mehr lesen: Datasensing geht an den Start

  • Unternehmen setzen auf Individualsoftware

    Unternehmen setzen auf Individualsoftware

    Jedes Unternehmen hat andere Bedürfnisse, wenn es um den Einsatz von Software geht. Standardlösungen können dies oftmals nicht ausreichend abbilden. Daher setzt laut einer Techconsult-Studie jedes zweite Unternehmen auf Individualsoftware.

    mehr lesen: Unternehmen setzen auf Individualsoftware

  • Allgeier erwirbt Mehrheit an Evora IT Solutions

    Allgeier erwirbt Mehrheit an Evora IT Solutions

    Allgeier übernimmt Evora IT Solutions, einen Spezialisten für Kundenservice- und Instandhaltungslösungen. Damit will Allgeier seine SAP- und ServiceNow Beratung ausbauen.

    mehr lesen: Allgeier erwirbt Mehrheit an Evora IT Solutions

  • Zu wenig sozialer Kontakt im Homeoffice

    Zu wenig sozialer Kontakt im Homeoffice

    Wo ist die Arbeitsbelastung höher – im Büro oder im Homeoffice? Dieser Frage ist die Deutsche Gesetzliche Unfallversicherung nachgegangen und hat im Rahmen einer Studie ermittelt, dass die Arbeitsbelastung nicht…

    mehr lesen: Zu wenig sozialer Kontakt im Homeoffice

  • Arbeitslosigkeit sinkt langsamer

    Arbeitslosigkeit sinkt langsamer

    Trotz des dritten Rückgangs in Folge verbleibt das IAB-Arbeitsmarktbarometer noch auf einem hohen Niveau. Einen größeren Rückschlag durch die vierte Pandemie-Welle erwarten die Experten des Instituts für Arbeitsmarkt- und Berufsforschung…

    mehr lesen: Arbeitslosigkeit sinkt langsamer