KI und autonome Systeme
Zehn Bedingungen für den Erfolg
Alleine oder kombiniert versprechen künstliche Intelligenz und autonome Systeme wirtschaftliche Potenziale, bringen aber auch Risiken mit sich.
Die Arbeitsgruppe ‚Autonome Systeme‘ der VDI-/VDE-Gesellschaft Mess- und Automatisierungstechnik hat zehn Fragen zusammengetragen, die es für einen wirtschaftlichen Durchbruch von KI zu beantworten gilt:
1. Wie können wir das autonome System beherrschen?
Viele Menschen befürchten den Kontrollverlust über autonome Systeme. Der Nutzer muss so ein System daher jederzeit deaktivieren bzw. die Stärke dessen Eingriffs reduzieren können.
2. Wie autonom soll das autonome System für uns sein?
Es gibt unterschiedliche Vorstellungen, wie selbständig technische Systeme sein können. Dafür wurden z.B. für die Automobilität und Industrie verschiedene Grade an Autonomie definiert – von der Assistenz über die Automatisierung bis zur Autonomie.
3. Wie machen Menschen Systeme autonom?
Das Wie ist wichtig, da es ganz unterschiedliche Konzepte gibt: vom für alle denkbaren Situationen entworfenen Verhalten bis zu Systemen, die sich selbst anlernen.
4. Wie nachvollziehbar muss ein autonomes System agieren?
Aktionen autonomer Systemen müssen verständlich und nachvollziehbar sein. Wenn das System auf Grundlage eigenen Lernens entscheidet, muss es die Begründung darstellen können.
5. Wie kann man autonome Systeme vergleichen?
Ein Vergleichsmaßstab – in der Messtechnik auch Metrik genannt – kann bei der Bewertung und Auswahl eines Systems helfen.
6. Wie zuverlässig ist das lernende autonome System?
Lernen autonome Systeme, treffen sie mitunter in ähnlichen Situation unterschiedliche Entscheidungen. Fehlt die Erklärung, können Menschen das als Unzuverlässigkeit wahrnehmen. Darunter leidet die Akzeptanz.
7. Wie effizient ist das autonome System?
Autonome Systeme können Menschen entlasten und Rohstoffe, Energie und Geld sparen helfen. Doch dagegen muss der Aufwand für die Entwicklung und das ‚Trainieren‘ verrechnet werden.
8. Wie sicher ist das autonome System?
Viele Menschen befürchten, falsche Entscheidungen eines autonomen Systems könnten sie gefährden. Wirkungsvolle Mechanismen zum Schutz von Mensch, Umwelt und des Systems selbst sind geboten.
9. Was passiert an der Grenze des Systemmöglichen?
Wie soll das autonome System mit Situationen abseits des Standards umgehen, außerhalb des entworfenen Regelwerkes? Darf oder kann es die Verantwortung dem Menschen zurückgeben? Möglicherweise hat der Mensch die Lösung dieser Aufgabe bereits verlernt.
10. Welchen Werten folgt das autonome System?
Menschen erwarten, dass technische Systeme geltenden Gesetzen, Normen und Vorschriften entsprechen. Ein autonomes System könnte sich aber anders verhalten, als von den Entwicklern vorgesehen. Welchen Werten soll es folgen?
Die Arbeitsgruppe ‚Autonome Systeme‘ möchte mit den aufgeworfenen Fragen in die Diskussion einsteigen und gemeinsam mit allen Interessierten schlüssige und fundierte Antworten entwickeln.
