Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Aufatmen in der deutschen Automobilindustrie

    Aufatmen in der deutschen Automobilindustrie

    Im Januar hat sich die Stimmung der deutschen Autobauer verbessert. Trotz einiger positiver Signale, gibt das Ifo Institut jedoch noch keine Entwarnung. Unter anderem bereiten Auftragslage und der Fachkräftemangel sorgen.

    mehr lesen: Aufatmen in der deutschen Automobilindustrie

  • Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

    Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

    Am 21. Februar 2024 starten die Maintenance als Messe für die industrielle Instandhaltung und die Pumps&Valves als Fachmesse für industrielle Pumpen, Armaturen und Ventile. Auf die Fachbesucher warten rund 240…

    mehr lesen: Industrielle Instandhaltung, Pumpen, Armaturen und Ventile im Fokus

  • Führungswechsel bei Schneider Electric DACH

    Führungswechsel bei Schneider Electric DACH

    Stefan Gierse wird mit Wirkung zum April neuer Zone President der DACH-Organisation von Schneider Electric. Der 45-Jährige war zuvor für Siemens tätig.

    mehr lesen: Führungswechsel bei Schneider Electric DACH

  • Rückgang schwächt sich leicht ab

    Rückgang schwächt sich leicht ab

    Der Orderrückgang des Maschinen- und Anlagenbaus hat sich im Dezember 2023 etwas abgeschwächt – unter dem Strich vermeldet der VDMA für das gesamte Jahr aber dennoch ein zweistelliges Minus der…

    mehr lesen: Rückgang schwächt sich leicht ab

  • Jörg von Ploetz zum CEO ernannt

    Jörg von Ploetz zum CEO ernannt

    Jörg von Ploetz löst Rüdiger Weihs an der Spitze des Softwareunternehmens Böhme & Weihs ab. Von Ploetz war zuvor COO des Qualitätsmanagement-Spezialisten.

    mehr lesen: Jörg von Ploetz zum CEO ernannt

  • Wie Hacker im Darknet Innentäter anwerben

    Wie Hacker im Darknet Innentäter anwerben

    Hacker und Cyberkriminelle bieten im Darknet nicht nur ihre Dienste an oder verkaufen dort erbeutete Datensätze. Sie suchen auch Komplizen, wie etwa unzufriedenen Mitarbeitern. Manchmal bieten diese ihre Dienste sogar…

    mehr lesen: Wie Hacker im Darknet Innentäter anwerben

  • Ein Motorrad fürs Wasserstoffzeitalter

    Ein Motorrad fürs Wasserstoffzeitalter

    Ein deutsch-tschechisches Konsortium aus Forschungseinrichtungen und Unternehmen arbeitet im Projekt Hydrocycle an einem Wasserstoff-Motorrad. Unter anderem wollen die Partner einen neuartigen Brennstoffzellenstack entwickeln

    mehr lesen: Ein Motorrad fürs Wasserstoffzeitalter

  • Verbände üben Kritik am AI Act

    Verbände üben Kritik am AI Act

    Regeln für künstliche Intelligenz Verbände üben Kritik am AI Act In dieser Woche wird Deutschland voraussichtlich grünes Licht für den aktuellen Entwurf des EU AI Acts geben. Verbände äußern jedoch…

    mehr lesen: Verbände üben Kritik am AI Act

  • Hesthaven neuer KIT-Präsident

    Hesthaven neuer KIT-Präsident

    Jan S. Hesthaven folgt auf Holger Hanselka Hesthaven neuer KIT-Präsident Prof. Jan S. Hesthaven wird neuer Präsident des Karlsruher Instituts für Technologie. Er folgt auf Prof. Holger Hanselka, der Mitte…

    mehr lesen: Hesthaven neuer KIT-Präsident

  • Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

    Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

    Kommunikationsnetz mit Quantenverschlüsselung Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur Ein von der Telekom geführtes Konsortium verantwortet den Aufbau von Quanten-Testinfrastruktur für Europa. Die Europäische Union will damit die Sicherheit ihrer Kommunikationsnetze,…

    mehr lesen: Nostradamus arbeitet an europäischer Quanten-Testinfrastruktur

  • Unternehmen ziehen gemischte LkSG-Bilanz

    Unternehmen ziehen gemischte LkSG-Bilanz

    Ein Jahr Lieferkettensorgfaltspflichtengesetz Unternehmen ziehen gemischte LkSG-Bilanz Eine Studie von IntegrityNext zeigt, dass Unternehmen ab 3.000 Mitarbeitenden eine mäßig positive Bilanz nach dem ersten Jahr des Lieferkettensorgfaltspflichtengesetzes (LkSG) ziehen. Als…

    mehr lesen: Unternehmen ziehen gemischte LkSG-Bilanz

  • Umati eröffnet Showroom in China

    Umati eröffnet Showroom in China

    Ab sofort können sich Interessierte auch in China live von den Vorteilen offener, standardisierter Schnittstellen auf Basis von OPC UA überzeugen und Umati besser kennenlernen. Die gemeinsame Konnektivitätsinitiative von VDW…

    mehr lesen: Umati eröffnet Showroom in China