Prüfverfahren für künstliche Intelligenz
KI-Systeme im Auto sicherer machen
KI-Systeme im Auto müssen sicher sein. Welche Kriterien bei der Überprüfung solcher Systeme angewendet werden können, erarbeiten das Bundesamt für Sicherheit in der Informationtechnik und ZF in einem gemeinsamen Projekt.
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben ein gemeinsames Projekt gestartet um zu erforschen, wie die IT-Sicherheit von KI-Systemen in Autos nach allgemein anerkannten Kriterien getestet werden kann. Mit den Erkenntnissen aus dem Projekt sollen Prüfkriterien für KI-Systeme in Form einer modularen technischen Richtlinie erarbeitet werden. Bis September 2022 wird das AI Lab von ZF das Projekt in Zusammenarbeit mit dem BSI als Auftraggeber umsetzen. Als Projektpartner ist zudem die TÜV Informationstechnik (TÜViT) eingebunden.
Adversarial Attacks
„Wer optimal schützen will, muss genau wissen, wie Angreifer vorgehen“, sagt Dr. Georg Schneider, der das AI Lab Saarbrücken von ZF leitet und dort für das Projekt verantwortlich ist. Das setze voraus, dass Angriffsstrategien permanent analysiert bewertet werden. Im Labor werden deshalb Angriffe simuliert und die Reaktion von KI-Systemen analysiert. Der Thin[gk]athon, veranstaltet vom Smart Systems Hub, vereint kollaborative Intelligenz und Industrie-Expertise, um in einem dreitägigen Hackathon innovative Lösungsansätze für komplexe Fragestellungen zu generieren. ‣ weiterlesen
Innovationstreiber Thin[gk]athon: Kollaborative Intelligenz trifft auf Industrie-Expertise
Dabei handelt es sich um unterschiedliche Methoden sogenannter Adversarial Attacks auf eine aktuelle KI-basierte Verkehrszeichenerkennung. Bei diesen Angriffen wird versucht, optische Signale zu manipulieren, um KI-Systeme zur Ausführung nicht gewünschter Operationen zu bringen. So könnte beispielsweise ein manipuliertes Tempo-60-Schild als Tempo-120-Schild interpretiert werden. Ein Verständnis solcher Angriffstaktiken ist die Voraussetzung für die Entwicklung von Abwehrstrategien.
Konzepte noch nicht ausgereift
Damit die Vorteile von KI-Systemen in der Mobilität nutzbar werden, muss ein sicherer Einsatz gewährleistet sein. Das erfordert Werkzeuge, mit denen diese Systeme auf Risiken und den Umgang damit überprüft werden können. „Geeignete Konzepte und Methoden hierfür sind aktuell nicht verfügbar oder nicht ausgereift“, sagt Dr. Silke Bargstädt-Franke, Leiterin der Abteilung Cyber-Sicherheit in der Digitalisierung und für elektronische Identitäten beim BSI. Es handele sich um neue Technologie, die komplexe Anwendungsfälle auf Basis der Interaktion von klassischer Software, KI-Systemen, Sensoren und der physischen Umwelt umsetze. „Hier lassen sich Prüfmaßstäbe nicht nach Papierlage entwickeln. Wir brauchen Partner aus der Praxis, um mögliche praktische Probleme im Betrieb erkennen zu können.“
An das aktuelle Projekt soll ein Folgeprojekt anknüpfen, in dem dann zwei Use-Cases durchgeführt werden sollen. Mittelfristiges soll auf Basis der gewonnenen Erkenntnisse eine modulare technische Richtlinie zu erstellt werden. Diese kann in die Entwicklung künftiger Sicherheitsüberprüfungen für Autos und internationale Bemühungen zur Standardisierung einfließen.
