AI Act: Herausforderungen und Bedürfnisse von Unternehmen
Fraunhofer-Institute zeigen aktuellen Stand zur KI-Zertifizierung
Der Einsatz künstlicher Intelligenz (KI) im privaten und beruflichen Umfeld nimmt zu. Gleichzeitig werden auf europäischer Ebene Regulierungen durch KI-Zertifizierung und -Absicherung diskutiert. Die Fraunhofer-Institute IAO und IPA haben deshalb die aktuellen Regulierungsmaßnahmen analysiert und Anforderungen sowie Bedürfnisse seitens Unternehmen in einem neuen Whitepaper zusammengefasst.
In Vorbereitung auf den EU AI Act haben das Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO und das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA deshalb die Sichtweise von Unternehmen untersucht. So hat das Forschungsteam den aktuellen Stand der gesetzlichen Regulierungen zur KI-Absicherung aufgenommen. Basierend auf den Ergebnissen aus Interviews mit Fachleuten hat das Team außerdem Anforderungen seitens Unternehmen, Forschungs- und Bildungseinrichtungen an die Umsetzung von Absicherungs- und Zertifizierungsprozessen von KI-Systemen formuliert.
Unsicherheitsfaktor für Unternehmen
Nach aktuellem Gesetzesentwurf ist es vorgesehen, dass KI-Anwendungen in verschiedene Risikostufen eingeteilt werden und je nachdem unterschiedlichen Auflagen unterworfen werden. Betreiber von Hochrisiko-KI-Anwendungen werden verpflichtet, ihre Konformität mit diesen Anforderungen in einem Self-Assessment zu überprüfen und können anschließend das CE-Siegel als Zertifikat verwenden. Verpflichtende Prüfungen durch Dritte sollen nur in besonderen Gebieten, wie z.B. der Medizintechnik, erforderlich sein. Der Thin[gk]athon, veranstaltet vom Smart Systems Hub, vereint kollaborative Intelligenz und Industrie-Expertise, um in einem dreitägigen Hackathon innovative Lösungsansätze für komplexe Fragestellungen zu generieren. ‣ weiterlesen
Innovationstreiber Thin[gk]athon: Kollaborative Intelligenz trifft auf Industrie-Expertise
Obwohl diese Anforderungen sehr klar vermitteln, wie ein mit dem EU AI Act konformer KI-Einsatz aussehen soll, ist derzeit noch unklar, wie das erreicht werden kann. Aktuell fehlen Maßnahmen zur Überprüfung der Auflagen. „Unternehmen haben z.B. Schwierigkeiten, einzuschätzen, unter welchen Umständen ihre KI-Anwendung transparent genug ist oder welche Fehlerrate tolerierbar ist“, erklärt Janika Kutz, Teamleiterin am Forschungs- und Innovationszentrum Kognitive Dienstleistungssysteme Kodis des Fraunhofer IAO. Gleichermaßen besteht die Sorge, dass die Aufwände für eine Zertifizierung insbesondere die Ressourcen von Startups und kleineren und mittelständischen Unternehmen übersteigen. Es wird befürchtet, dass juristisches Fachwissen erforderlich ist, um Auflagen vollständig korrekt umzusetzen, und die Einhaltung Entwicklungszeiten und -kosten steigen lässt, sodass europäische Unternehmen nicht mit internationaler Konkurrenz mithalten können.
Klare Anforderungen an KI-Zertifizierung
Ein Ergebnis der Interviews ist, dass die Zertifizierung für Unternehmen aller Größen umsetzbar sein muss. Jeden Anwendungsfall absichern und zertifizieren zu lassen ist aufwendig und ressourcenintensiv, daher stellen Unternehmen klare Anforderungen an Regelungen zur KI-Absicherung. Faktoren wie Transparenz und Machbarkeit von Zertifizierungsprozessen, klare Rollen von Behörden und Institutionen sowie die Bewahrung der Innovationsfähigkeit werden als besonders wichtig hervorgehoben. „Die befragten Unternehmen sind sich einig, dass bei der KI-Zertifizierung immer der Mehrwert für die Endnutzer im Vordergrund stehen sollte“, fasst Prof. Marco Huber, Leiter der Abteilung Cyber Cognitive Intelligence am Fraunhofer IPA, die Ergebnisse der Interviews zusammen.
Externe Unterstützungsangebote sind gefragt
Basierend auf den Aussagen der Interviewten scheinen die meisten Unternehmen nicht ausreichend auf die kommenden Regulierungen durch den EU AI Act vorbereitet zu sein. So können Unternehmen von Informationsvermittlung, Wissenstransfer sowie Netzwerkbildung profitieren und sind außerdem an individuellen Beratungsangeboten sowie praktischen Methoden und Werkzeugen zur Unterstützung bei der Absicherung und Zertifizierung von KI-basierten Systemen interessiert.
Durch den fortlaufenden Austausch zwischen Regulierungsbehörden, Industrie, Forschungseinrichtungen und der breiten Öffentlichkeit kann ein umfassendes Verständnis der Chancen und Herausforderungen der KI-Nutzung entwickelt werden. Wie die Fraunhofer-Forschenden mitteilen, werde dies letztendlich zur Entwicklung von KI-Systemen führen, die effektiver, sicherer und praxisorientierter sind.
Das Whitepaper steht hier kostenlos zur Verfügung.
