Mit der geplanten Richtlinienarbeit zur ‚Sicherheit von cyber-physischen KI-Systemen‘ möchte der VDI eine Grundlage für die Entwicklung, den Einsatz und den Betrieb solcher Systeme bilden. Die Beteiligten behandeln insbesondere das Zusammenwirken von physischer Hardware, Software-Algorithmen, KI-Modellen als Gesamtsystem und Betriebsstrategien.
In einer Pressemitteilung erklärt der Verein, dass Industrie und Wissenschaft durch KI-Technologien und neue regulatorische Rahmenbedingungen wie dem EU AI Act oder der neuen EU-Maschinenverordnung vor der Herausforderung stehen, abstrakte Vorgaben in konkrete technische Handlungsempfehlungen zu übersetzen. Zudem wird betont, dass bisherige klassische Sicherheitsnachweise bei lernenden und probabilistischen KI-Komponenten an ihre Grenzen stoßen und deshalb erweiterte Anforderungen an die Validierung, Verifizierung und das Risikomanagement definiert werden müssen.
Handlungsempfehlungen erarbeiten
Vor diesem Hintergrund soll im VDI ein Richtlinienausschuss eingerichtet werden, um konkrete Handlungsempfehlungen für alle Entscheider und Anwender zu erarbeiten. Ziel ist es, den aktuellen Stand von Wissenschaft und Technik abzubilden und eine praxisorientierte Brücke zwischen KI-Entwicklung und klassischer Ingenieurpraxis zu schlagen.
Für diese Arbeit werden Mitwirkende gesucht, die ihre Erfahrung und ihr Fachwissen einbringen und dazu beitragen möchten, ein praxisnahes und zukunftsfähiges Regelwerk zu entwickeln. Als Kick-Off ist am 22. Oktober (14 bis 16 Uhr) ein Webmeeting geplant.
Welche Inhalte sollen erarbeitet werden?
- Definition von ganzheitlichen Sicherheitsbetrachtungen KI-basierter cyber-physische Systeme auf System- und Prozessebene
- Integration aktueller regulatorischer Anforderungen in den Ingenieursalltag
- Berücksichtigung neuer Methoden zur Verifizierung, Validierung und kontinuierlichen Überwachung von KI-Modellen im physischen Einsatz
- Weiterentwicklung der Anforderungen an das Risikomanagement, die Erklärbarkeit (XAI) und die Resilienz gegenüber äußeren Einflüssen
- Berücksichtigung von Praxiserfahrungen aus der Implementierung, Zertifizierung und dem Betrieb intelligenter, autonomer Systeme Seite
Gesucht werden Fachleute aus Unternehmen des Maschinen- und Anlagenbaus, der Automatisierungstechnik, der Mobilitätsbranche und der Softwareentwicklung sowie
Entwicklerinnen, Entwickler und Datenwissenschaftler (Data Scientists) mit Fokus auf industriellen KI-Anwendungen. Auch Ingenieurinnen und Ingenieure aus den Bereichen Funktionale Sicherheit/Safety Engineering und System Safety Management sind eingeladen, sich zu beteiligen.
Der Aufruf des VDI richtet sich zudem an Wissenschaftlerinnen und Wissenschaftler aus den Bereichen Informatik, KI-Forschung und Robotik sowie an Behördenvertreter, Prüforganisationen und Sachverständige, die sich mit der Zulassung und Zertifizierung von KI-Systemen befassen.
Interessierte können sich unter gpp@vdi.de melden.
