Unternehmen wollen KI kontrollieren, rechnen aber vermehrt mit autonomen Systemen

0:000:00

Engineer interacting with artificial intelligence interface to manage industrial operations enhance automation and optimize smart systems using AI agents in modern factory environments
Bild: ©JD Studio/stock.adobe.com

Acht von zehn Unternehmen in der DACH-Region bestehen laut einer Umfrage des IT-Dienstleisters DXC darauf, dass bei neuen KI-Prozessen am Ende immer der Mensch entscheidet. Gleichzeitig hält es mehr als die Hälfte für wahrscheinlich, dass KI-Systeme künftig wichtige Geschäftsentscheidungen selbstständig treffen – 19% sogar für sehr wahrscheinlich.

Aus Sicht der Unternehmen ist ein solcher Wandel bereits im Gange: 71% der Befragten erwarten, dass die Zahl virtueller KI-Agenten am Arbeitsplatz in den kommenden drei Jahren sprunghaft ansteigen wird. 74% gehen davon aus, dass künftiger Geschäftserfolg Teams aus Mensch und KI-Agenten voraussetzt. Und 75% rechnen damit, dass Systeme bei wichtigen Entscheidungen zumindest konsultiert werden, auch wenn der Mensch formal entscheidet. Laut DXC wächst damit der Druck, Zuständigkeiten, Kontrolle und Governance klar zu regeln.

„Die gefährlichste Annahme ist zu glauben, man habe es unter Kontrolle“, sagt Ramses Gallego, Ramsés Gallego, Chief Technologist Cybersecurity bei DXC Technology. „Sobald ein System eigenständig handelt, entstehen Verantwortungsfragen, die vorher niemand gestellt hat. Governance muss vor dem ersten autonomen Schritt stehen – nicht danach, wenn Compliance-Probleme bereits da sind.“

66% der befragten Unternehmen berichten in der Studie, durch intransparente KI-Entscheidungen bereits neue Compliance-Aufgaben zu haben. Für DXC ist das ein Beleg dafür, dass Autonomie ohne Regeln zunächst Risiken schafft, bevor sie Vorteile bringt. Das Unternehmen rät Unternehmen deshalb dazu, Governance-Strukturen aus Policy-Vorgaben, technischen Schutzmechanismen und menschlicher Aufsicht zu etablieren, bevor KI-Systemen mehr Entscheidungsspielraum gegeben wird.

„Autonomie ohne Aufsicht ist kein Fortschritt, sondern ein Risiko“, sagt Gallego. „Vertrauen ist wichtig, Kontrolle aber unverzichtbar. Genau das ist der Kern guter Governance in einer Welt, in der Systeme zunehmend selbstständig entscheiden.“

Hinweis: Für den DXC Digital Future Monitor 2026 befragte das Marktforschungsinstitut Toluna im März insgesamt 300 Fach- und Führungskräfte mit strategischer Verantwortung für Digitalisierung, IT, operative Technologien oder Vernetzung in Deutschland, Österreich und der Schweiz. Die Befragung erfolgte online auf Basis von Expertenpanels und umfasst Unternehmen aller Größenklassen.



  • Eplan Network geht wieder auf Tour

    Eplan Network geht wieder auf Tour

    Im September startet die jährliche Roadshow von Eplan durch acht Städte in Deutschland, Österreich und der Schweiz.

    mehr lesen: Eplan Network geht wieder auf Tour

  • Rahmenprogramm Nachwuchs und Fachkräfte

    Rahmenprogramm Nachwuchs und Fachkräfte

    Die Fachkräftesicherung bleibt eine zentrale Herausforderung in der Metallbearbeitungsbranche und bedarf einer konsequenten qualifizierten Nachwuchsförderung.

    mehr lesen: Rahmenprogramm Nachwuchs und Fachkräfte

  • Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

    Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

    Im Juni blieben die Bestellungen im Maschinen- und Anlagenbau unter dem Vorjahreswert. Und auch für das erste Halbjahr verzeichnet die Branche ein Minus.

    mehr lesen: Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

  • Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

    Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

    In der industriellen Fertigung, aber auch in anderen Branchen, hat sich die physische Interaktion zwischen Mensch und Roboter zu einer Schlüsseltechnologie entwickelt. Das Forschungsprojekt Fitness will diese Interaktion mit Metasurface-Antennen…

    mehr lesen: Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

  • Econ Solutions bezieht neuen Standort

    Econ Solutions bezieht neuen Standort

    Um mehr Kundennähe sowie eine engere Zusammenarbeit mit dem Mutterunternehmen MVV Energie zu ermöglichen hat Econ Solutions einen neuen Standort eröffnet.

    mehr lesen: Econ Solutions bezieht neuen Standort

  • KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

    KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

    Vor 40 Jahren kam die erste E-Mail in Deutschland an. Heute werden täglich rund 350 Milliarden Mails versendet – auch durch Cyberkriminelle. Professorin Melanie Volkamer, Expertin für IT-Sicherheit vom Karlsruher…

    mehr lesen: KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

  • Bitkom zum Inkrafttreten des AI Acts

    Bitkom zum Inkrafttreten des AI Acts

    Nach der Veröffentlichung im EU-Amtsblatt am 12. Juli tritt am 1. August der AI Act in Kraft. Der Bitkom sieht jedoch noch viele Fragen ungeklärt.

    mehr lesen: Bitkom zum Inkrafttreten des AI Acts

  • Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

    Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

    In Deutschland fehlen Fachkräfte. Ein Weg, um die Lücken zumindest ein bisschen zu schließen: Selbst ausbilden. Besonders gefragt ist Nachwuchs in MINT-Berufen. Wie aus einer Studie des Instituts der deutschen…

    mehr lesen: Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

  • Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

    Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

    Nahezu alle Industrie-Unternehmen befassen sich laut einer Capgemini-Studie mit Bio-Engineering. Die Mehrheit der befragten Organisationen plant demnach sogar Investitionserhöhungen für Biotechnologie. Ein zentrales Motiv: mehr Nachhaltigkeit.

    mehr lesen: Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

  • Smart Factory Week startet Mitte September

    Smart Factory Week startet Mitte September

    Die Smart Factory Week von MPDV geht vom 16. bis 19. September 2024 in die vierte Runde. Das Online-Event richtet sich an Einsteiger und Nutzer digitaler Fertigungsprozesse und Management Execution…

    mehr lesen: Smart Factory Week startet Mitte September

  • Neuer Managing Director Germany bei Commvault

    Neuer Managing Director Germany bei Commvault

    Seit Juli hat die Commvault Systems einen neuen Management Director für Deutschland. Frank Dehne folgt in dieser Position auf Peter Kayi.

    mehr lesen: Neuer Managing Director Germany bei Commvault

  • BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    Nach den weltweiten IT-Störungen am 19. Juli 2024 hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) im Gespräch mit den Software-Unternehmen Crowdstrike und Microsoft erste Maßnahmen entwickelt, um vergleichbare…

    mehr lesen: BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle