Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Kuka gründet neues Segment für Software- und Digitalgeschäft

    Kuka gründet neues Segment für Software- und Digitalgeschäft

    Kuka hat einen neuen Geschäftsbereich gegründet. Mit Kuka Digital will der Robotik- und Automatisierungsspezialist aus Augsburg sein Software- und Digitalgeschäft erweitern.

    mehr lesen: Kuka gründet neues Segment für Software- und Digitalgeschäft

  • Zu viele Fernzugriffs-Tools machen OT-Umgebungen angreifbar

    Zu viele Fernzugriffs-Tools machen OT-Umgebungen angreifbar

    55 Prozent der Unternehmen setzen in ihren OT-Umgebungen vier oder mehr Remote-Access-Tools ein, 33 Prozent sogar mindestens sechs.

    mehr lesen: Zu viele Fernzugriffs-Tools machen OT-Umgebungen angreifbar

  • Fraunhofer-Forschende entwickeln Robotersystem zur Qualitätssicherung im 3D-Druck

    Fraunhofer-Forschende entwickeln Robotersystem zur Qualitätssicherung im 3D-Druck

    Können 3D-gedruckte Bauteile in der Luftfahrt eingesetzt werden? Im Projekt Enabl3D entwickeln Forschende nun eine ausreichende Qualitätssicherung für diesen Zweck.

    mehr lesen: Fraunhofer-Forschende entwickeln Robotersystem zur Qualitätssicherung im 3D-Druck

  • Event-Doppelpack zu KI, Daten und Quantencomputing

    Event-Doppelpack zu KI, Daten und Quantencomputing

    Am 25. und 26. September 2024 finden im Kosmos Berlin der AI & Data Summit und der Quantum Summit des Bitkom statt. Im Fokus der Veranstaltungen stehen Anwendungsfälle rund um…

    mehr lesen: Event-Doppelpack zu KI, Daten und Quantencomputing

  • VDMA-Umfrage zu Forschung im Maschinenbau

    VDMA-Umfrage zu Forschung im Maschinenbau

    Wie und wo forscht und entwickelt der deutsche Maschinenbau? Dazu hat der Branchenverband VDMA 400 Firmen befragt. Demnach ist das Innovationstempo hoch und soll weiter steigen. Auch wenn die Unternehmen…

    mehr lesen: VDMA-Umfrage zu Forschung im Maschinenbau

  • Industrieleistung bricht um zwei Prozent ein

    Industrieleistung bricht um zwei Prozent ein

    Deutschlands Wirtschaft könnte 2024 auf der Stelle treten. Nach aktuellen Berechnungen korrigiert das Ifo-Institut das voraussichtliche Wirtschaftswachstum von 0,4 auf null Prozent, die Industrie schrumpft sogar um zwei Prozent. Dafür…

    mehr lesen: Industrieleistung bricht um zwei Prozent ein

  • Maximilian Köpke wird COO/CFO bei Convista

    Maximilian Köpke wird COO/CFO bei Convista

    Das Beratungshaus Convista hat Maximilian Köpke in einer Doppelrolle als COO und CFO ins Boot geholt. Zuvor war der Manager als Partner bei der Boston Consulting Group angestellt.

    mehr lesen: Maximilian Köpke wird COO/CFO bei Convista

  • Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

    Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

    Auf der diesjährigen Fakuma, internationale Fachmesse für Kunststoffverarbeitung, vom 15. bis 19. Oktober 2024 wird es neben der Ausstellung auch ein breites Rahmenprogramm geben. Erstmals wird etwa der Karriere-Freitag Teil…

    mehr lesen: Fakuma 2024 liefert neue Ansätze für die Kunststoffverarbeitung

  • Sebastian Spicker wird Managing Director DACH bei IFS

    Sebastian Spicker wird Managing Director DACH bei IFS

    Sebastian Spicker hat die Position des Managing Director DACH bei IFS übernommen.

    mehr lesen: Sebastian Spicker wird Managing Director DACH bei IFS

  • IFS kauft Copperleaf Technologies

    IFS kauft Copperleaf Technologies

    Der schwedische Anbieter von Business-Software IFS kauft Copperleaf Technologies. Das kanadische Unternehmen bietet Analytics-Software etwa für die Investitionsplanung und soll rund eine Milliarde kanadische Dollar kosten, rund 670 Millionen Euro.

    mehr lesen: IFS kauft Copperleaf Technologies

  • Wie steht es um KI und IoT bei unseren Nachbarn?

    Wie steht es um KI und IoT bei unseren Nachbarn?

    Wie etabliert sind Robotik, KI, ML, Big Data und IoT in den europäischen Ländern? Und wie schneidet Deutschland im Vergleich ab? Das hat Reichelt Elektronik Menschen in Deutschland, Frankreich, Italien…

    mehr lesen: Wie steht es um KI und IoT bei unseren Nachbarn?

  • Tech-Festival für Co-Creation in der Automatisierung

    Tech-Festival für Co-Creation in der Automatisierung

    Die vernetzte Fabrik, Datenräume und Automatisierung sind nur einige der Themen, die am 6. November in der Gläsernen Manufaktur Dresden im Mittelpunkt stehen. Für das Event Hub:Disrupt organisieren die Veranstalter…

    mehr lesen: Tech-Festival für Co-Creation in der Automatisierung