Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • T-Systems ernennt Christine Knackfuß-Nikolic zur CTO

    T-Systems ernennt Christine Knackfuß-Nikolic zur CTO

    Christine Knackfuß-Nikolic wechselt von der Telekom zu T-Systems und wird dort ab März die Position der CTO übernehmen.

    mehr lesen: T-Systems ernennt Christine Knackfuß-Nikolic zur CTO

  • Prozessdampf nachhaltiger machen

    Prozessdampf nachhaltiger machen

    Für technische Produktionsprozesse, etwa in der chemischen Industrie, kommt zur Wärmeversorgung sogenannter Prozessdampf zum Einsatz. Für die Dampferzeugung werden bisher zumeist fossile Brennstoffe verwendet. Ein Forschungsprojekt will diesen Prozess nun…

    mehr lesen: Prozessdampf nachhaltiger machen

  • Autocrypt und MicroNova arbeiten zusammen

    Autocrypt und MicroNova arbeiten zusammen

    Im Rahmen einer strategischen Partnerschaft wollen die Unternehmen Autocrypt und MicroNova Testlösungen im Bereich der automobilen Cybersicherheit entwickeln.

    mehr lesen: Autocrypt und MicroNova arbeiten zusammen

  • Mehr Rechtssicherheit für die Cybersicherheitsforschung

    Mehr Rechtssicherheit für die Cybersicherheitsforschung

    Cybersicherheitsforschende können Datenschutzvorschriften oft nicht befolgen, da sie vor Beginn einer Forschungsaktivität nicht wissen, ob und welche personenbezogenen Daten sie genau verarbeiten werden.

    mehr lesen: Mehr Rechtssicherheit für die Cybersicherheitsforschung

  • Wibu-Systems lädt zum Informationstag

    Wibu-Systems lädt zum Informationstag

    Am 20. März 2024 veranstaltet Wibu-Systems einen Informationstag zum Thema IT-Security in der Fertigung.

    mehr lesen: Wibu-Systems lädt zum Informationstag

  • Mehr als 5.000 Besucher kamen zur Maintenance

    Mehr als 5.000 Besucher kamen zur Maintenance

    Mit einem Besucherzuwachs von 25 Prozent ziehen die Veranstalter der Messen Maintenance und Pumps & Valves ein positives Fazit und wollen die Veranstaltung auch im nächsten Jahr zeitgleich ausrichten.

    mehr lesen: Mehr als 5.000 Besucher kamen zur Maintenance

  • 8 von 10 Betrugsspezialisten wollen bis 2025 generative KI einsetzen

    8 von 10 Betrugsspezialisten wollen bis 2025 generative KI einsetzen

    Generative AI könnte in den nächsten Jahren eine zentrale Rolle bei der Betrugsbekämpfung spielen. So planen 83 Prozent der Teilnehmer am Anti-Fraud Technology Benchmarking Report, die Technologie innerhalb der nächsten…

    mehr lesen: 8 von 10 Betrugsspezialisten wollen bis 2025 generative KI einsetzen

  • Zero-Trust-Konzept für 5G-Campusnetze

    Zero-Trust-Konzept für 5G-Campusnetze

    Trend Micro hat auf dem Mobile World Congress 2024 in Barcelona einen plattformbasierten Ansatz zur Absicherung von 5G-Implementierungen vorgestellt. Für solche Produkte gründete der Anbieter letztes Jahr extra die Tochtergesellschaft…

    mehr lesen: Zero-Trust-Konzept für 5G-Campusnetze

  • Konsortium will Innovationen für die Klimaneutralität beschleunigen

    Konsortium will Innovationen für die Klimaneutralität beschleunigen

    Die EU strebt bis 2050 Klimaneutralität an. Das Projekt RISEnergy (Research Infrastructure Services for Renewable Energy) soll auf dem Weg dorthin die Entwicklung von Innovationen für erneuerbare Energien bis zur…

    mehr lesen: Konsortium will Innovationen für die Klimaneutralität beschleunigen

  • Pilotprojekt erforscht Kreislaufwirtschaft in der Fahrzeugproduktion

    Pilotprojekt erforscht Kreislaufwirtschaft in der Fahrzeugproduktion

    Wie eine nachhaltige und ressourceneffiziente Kreislaufwirtschaft für kleine und leichte Elektrofahrzeuge bzw. Leichtkraftfahrzeuge aussehen kann, erforschen Wissenschaftlerinnen und Wissenschaftler der Bergischen Universität Wuppertal sowie der Hochschule Bochum im Projekt Pilot4CircuLEV.

    mehr lesen: Pilotprojekt erforscht Kreislaufwirtschaft in der Fahrzeugproduktion

  • VDI setzt Mentoringprogramm für ausländische Ingenieure auf

    VDI setzt Mentoringprogramm für ausländische Ingenieure auf

    Mit dem Projekt Xpand will der VDI ein Mentoring-Programm etablieren, das Ingenieure und Ingenieurinnen ausländischer Herkunft bei der Integration in den Arbeitsmarkt unterstützen soll.

    mehr lesen: VDI setzt Mentoringprogramm für ausländische Ingenieure auf

  • Exportindustrie mit „Luft nach oben“

    Exportindustrie mit „Luft nach oben“

    Zwar verbessern sich laut aktueller Ifo-Kennzahlen die Exporterwartungen der Industrie, jedoch rechnen insgesamt nur wenige Branchen mit Zuwächsen.

    mehr lesen: Exportindustrie mit „Luft nach oben“