Teil 1: Wie können wir das autonome System beherrschen?
Im Gespräch mit Dr. Attila Bilgic.
„Der Begriff ‚autonom‘ weckt Ängste“
Die Arbeitsgemeinschaft ‚Autonome Systeme‘ der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik hat zehn Grundsatzfragen zum Thema ‚Künstliche Intelligenz und autonome Systeme‘ formuliert. Zum Einstieg in den Diskurs hat die Ingenieursvereinigung Dr. Attila Bilgic, CTO und Vorstandsmitglied der Krohne-Gruppe sowie Mitglied des Vorstands der VDI/VDE-GMA, zur Beherrschbarkeit autonomer Systeme befragt.
Herr Dr. Bilgic, die in großem Tempo voranschreitenden Entwicklungen in der künstlichen Intelligenz eröffnen immer neue Optionen für autonome Systeme. Das wirft auch die Frage auf, wie wir diese beherrschen können?
Dr. Attila Bilgic: Die Sorge, dass Aliens aus dem Weltraum, Mutanten, Androide, Mensch-Maschinen-Hybride oder wer auch immer die Weltherrschaft übernehmen und den Menschen unterjochen, bietet seit Jahrzehnten Stoff für zahlreiche Science-Fiction-Erzählungen. Sie sind allesamt bis heute Fiktion und vor allem Projektionsfläche. Autonome Systeme liefern eine weitere Projektionsfläche.
Für was genau sind sie die Projektionsfläche?
Bilgic: Für die sozialen Verwerfungen und das subjektive Gefühl von Unterlegenheit. Sie können die allumfassende Kontrolle reizvoll machen. Getreu der Logik: Wenn wir – oder besser: viele von uns – nur entsprechende Fähigkeiten hätten, dann würden wir am liebsten die Welt regieren. Nun entwickeln sich Systeme, die uns an Intelligenz ebenbürtig sind oder uns sogar überholen – und wir unterstellen ihnen ähnliche Fantasien und Antriebskräfte. Das Manufacturing Execution System (MES) HYDRA optimiert Produktionsprozesse für Fertigungsunternehmen, um Wettbewerbsvorteile zu erzielen. ‣ weiterlesen
MES-Integrator und 360-Grad-Partner für optimierte Fertigung
Katastrophen brauchen ja nicht unbedingt einen bösen Willen. Eine für den Menschen nicht mehr kontrollierbare Dynamik reicht ja schon ?
Bilgic: Absolut, das ist kein ausschließlich psychologisches Thema. Das schwingt nur mit und der Begriff autonom triggert hier Sorgen und Ängste. Ein System, welches wir komplett kontrollieren könnten, ist nicht autonom. Es muss in der Tat eigenständig Entscheidungen treffen und entsprechend agieren können.
Muss es tatsächlich eigenständig sein?
Bilgic: Ja, weil wir solche Systeme in komplexen Anwendungen einsetzen, deren Zustände a priori nicht vorhersehbar sind. Man kann da kein Verhalten mehr vorweg algorithmisch festlegen.
Sollten wir Menschen ein solches System nicht wenigstens immer abschalten können?
Bilgic: Ich möchte den Mitarbeitern meines Unternehmens nicht unbedingt die Möglichkeit geben, ihren Virenscanner abzuschalten, obwohl er eigenständig Verbindungen blockiert und Dateien in Quarantäne steckt. Niemand von ihnen überblickt, was dieses System genau tut, ich auch nicht. Ich habe aber eine Idee davon, was passiert, wenn ich das System ausschalte und die ist erschreckend.
Hat das mit Erfahrungen zu tun?
Bilgic: Ja. Denn wir haben gelernt, dass solche Virenscanner massiv zu unserer Sicherheit beitragen. So wie auch die Sicherungen für den elektrischen Strom im Haushalt. Sie ärgern uns manchmal, wenn sie ausfallen und wir verstehen oft nicht sofort, warum. Wir hätten ja lieber Strom. Wir würden es allerdings nicht als verantwortungsvolles Handeln betrachten, die Sicherung einfach zu überbrücken.
Beim Autofahren sieht es nochmal anders aus?
Bilgic: Das Autofahren haben wir gelernt und wir möchten uns da auch nicht reinreden lassen. Aber im Ernst: Man kann ja noch sagen, Automatikgetriebe und Tempomaten wären etwas für bequeme Leute. Aber spätestens beim Fahrspurassistenten sieht man, wie auch passionierte Autofahrer richtig Spaß an automatischen Systemen bekommen können.
