Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Erster photonischer Quantencomputer in Deutschland rechnet in Paderborn

    Erster photonischer Quantencomputer in Deutschland rechnet in Paderborn

    Auch wenn Quantencomputer seit einigen Jahren Gegenstand intensiver Forschung sind, ist es bisher nicht gelungen, ausreichend robuste Systeme zu realisieren.

    mehr lesen: Erster photonischer Quantencomputer in Deutschland rechnet in Paderborn

  • BuildingSmart International und IDTA unterzeichnen Kooperationsvereinbarung

    BuildingSmart International und IDTA unterzeichnen Kooperationsvereinbarung

    Die BuildingSmart International (bSI) und die Industrial Digital Twin Association (IDTA) wollen künftig auf gemeinnütziger Basis zusammenzuarbeiten, um eine offene digitale Interoperabilität in der Gebäudetechnik zu fördern.

    mehr lesen: BuildingSmart International und IDTA unterzeichnen Kooperationsvereinbarung

  • Energieverbrauch beim Umformen und in der Zerspanung reduziert

    Energieverbrauch beim Umformen und in der Zerspanung reduziert

    Daten werden benötigt, um in hochspezialisierten Prozessen Maschinen und Anlagen zu steuern.

    mehr lesen: Energieverbrauch beim Umformen und in der Zerspanung reduziert

  • Erste agile Batteriezellfertigung eröffnet

    Erste agile Batteriezellfertigung eröffnet

    Die Nachfrage nach Batteriezellen wird aktuell vor allem durch kostengetriebene Massenproduktion in Asien und Nordamerika gedeckt, was auch Auswirkungen auf den Maschinen- und Anlagenbau hat.

    mehr lesen: Erste agile Batteriezellfertigung eröffnet

  • Eclipse Foundation und DIN kooperieren

    Eclipse Foundation und DIN kooperieren

    Die Eclipse Foundation, eine der weltweit größten Open-Source-Stiftungen, und das Deutsche Institut für Normung (DIN) haben eine Absichtserklärung bekannt gegeben.

    mehr lesen: Eclipse Foundation und DIN kooperieren

  • Machine-Vision-Industrie erwartet Umsatzrückgang

    Machine-Vision-Industrie erwartet Umsatzrückgang

    Die VDMA Fachabteilung Machine Vision rechnet für die Bildverarbeitungsindustrie in Deutschland mit einem Umsatzrückgang von 10 Prozent nominal im laufenden Jahr.

    mehr lesen: Machine-Vision-Industrie erwartet Umsatzrückgang

  • Mathematische Modelle für einen effizienteren Emissionshandel

    Mathematische Modelle für einen effizienteren Emissionshandel

    Der Emissionshandel ist ein zentrales Instrument im Kampf gegen den Klimawandel. Die Einführung von CO2-Zertifikaten soll Anreize für Unternehmen schaffen, ihre Emissionen zu reduzieren.

    mehr lesen: Mathematische Modelle für einen effizienteren Emissionshandel

  • Mission KI und Xayn entwickeln KI-basiertes Prüfsystem für sicheren Datenaustausch

    Mission KI und Xayn entwickeln KI-basiertes Prüfsystem für sicheren Datenaustausch

    Um die Attraktivität von Datenräumen und den datenraumübergreifenden Austausch von Daten zu erhöhen, entwickelt das Berliner KI-Startup Xayn im Rahmen der Initiative Mission KI ein KI-basiertes Sicherheits- und Qualitäts-Monitoring. Die…

    mehr lesen: Mission KI und Xayn entwickeln KI-basiertes Prüfsystem für sicheren Datenaustausch

  • Die Welt der additiven Fertigung in Frankfurt

    Die Welt der additiven Fertigung in Frankfurt

    Bis Ende September haben sich 820 Unternehmen für die Formnext in Frankfurt angemeldet. Die Messe für Additive Manufacturing (AM) findet vom 19. bis zum 22. November 2024 statt. Besucher können…

    mehr lesen: Die Welt der additiven Fertigung in Frankfurt

  • Der IT.Connect meets Cybersecurity Day 2024

    Der IT.Connect meets Cybersecurity Day 2024

    Am 5. November 2024 wird die Congresshalle Saarbrücken im Rahmen des IT.Connect meets Cybersecurity Day zu einem Zentrum der IT- und Cybersicherheitsbranche.

    mehr lesen: Der IT.Connect meets Cybersecurity Day 2024

  • Die Krux mit der Kundenzufriedenheit

    Die Krux mit der Kundenzufriedenheit

    Syncron, ein Hersteller für Service-Lifecycle-Management (SLM), hat die Studie ‚Modernizing the Aftermarket‘ veröffentlicht.

    mehr lesen: Die Krux mit der Kundenzufriedenheit

  • Schwache Entwicklung der regionalen Arbeitsmärkte

    Schwache Entwicklung der regionalen Arbeitsmärkte

    Wie das Institut für Arbeitsmarkt und Berufsforschung nun mitteilt, steigt die sozialversicherungspflichtige Beschäftigung nicht mehr in allen Bundesländern – die Arbeitslosigkeit nimmt überall zu.

    mehr lesen: Schwache Entwicklung der regionalen Arbeitsmärkte