Neue Dokumentationspflichten für KI-Anbieter

Die KI-Verordnung, auch bekannt als AI Act, ist die weltweit erste umfassende Gesetzgebung, die speziell auf künstliche Intelligenz ausgerichtet ist. Ihr Ziel ist es, harmonisierte Regeln für die Entwicklung, das Inverkehrbringen und den Einsatz von KI-Systemen zu schaffen. Dadurch soll gewährleistet werden, dass KI-Systeme menschenzentriert gestaltet sind und die demokratischen Werte der EU – wie der Schutz der Menschenwürde, die Gleichheit und der Datenschutz – respektiert werden. Ein zentrales Element der Verordnung ist ihr risikobasierter Ansatz: Während Systeme mit minimalem Risiko nur geringer Regulierung unterliegen, müssen Hochrisiko-KI-Anwendungen – etwa in Medizin, Justiz oder kritischer Infrastruktur – deutlich strengere Vorschriften erfüllen. Noch weiter geht die Regulierung bei KI-Systemen mit unannehmbarem Risiko, wie etwa Social-Scoring-Anwendungen, die gänzlich verboten werden.

Um Unternehmen Zeit zur Umsetzung der Anforderungen zu geben, gelten gestaffelte Übergangsfristen, wobei die meisten Vorschriften ab August 2026 verbindlich werden. Die Überwachung übernimmt das AI Office der EU, unterstützt durch nationale Aufsichtsbehörden wie die Bundesnetzagentur in Deutschland.

Technische Dokumentation als Schlüssel zur Compliance

Der Begriff der Technischen Dokumentation zieht sich wie ein roter Faden durch die KI-Verordnung und nimmt insbesondere bei Hochrisiko-KI-Systemen und ‚General Purpose AI‘-Modellen (GPAIs) eine Schlüsselrolle ein. Grundsätzlich dient die Dokumentation dazu, alle wesentlichen Informationen zu Entwicklung, Betrieb und Sicherheit des KI-Systems bereitzustellen und ist ein Baustein, um die regulatorischen Anforderungen zu erfüllen sowie das Vertrauen in die Technologie zu stärken. Im Wesentlichen richtet sie sich an zwei Adressatenkreise: Behörden, die die Einhaltung der gesetzlichen Anforderungen überprüfen, und Betreiber, die das System nutzen. Dafür muss die Technische Dokumentation eine Reihe zentraler Aspekte abdecken:

• Systembeschreibung: Zweck, Einsatzbereich, Anbieterangaben sowie Interaktion mit anderen Systemen
• Technische Merkmale: Architektur, verwendete Algorithmen, Datenquellen und Trainingsmethoden
• Sicherheitsmaßnahmen: Mechanismen zur Cybersicherheit, Robustheitstests und Schutz vor Manipulation
• Risikomanagement: Identifikation und Bewertung von Risiken, Maßnahmen zur Fehlerkontrolle und Überwachung
• Protokollierung & Nachvollziehbarkeit: Dokumentation von Systemverhalten, Änderungsverlauf und relevanten Testdaten

KI richtig dokumentieren

Doch auch wenn die KI-Verordnung Anforderungen an die Technische Dokumentation formuliert, sind noch Details zur konkreten Umsetzung offen. Es besteht die Möglichkeit, dass ein offizieller Leitfaden von EU-Seite dieses Thema später spezifiziert, bislang ist aber noch nicht bekannt, wann ein solcher Guide erscheinen soll. Für KI-Anbieter gilt es also, eigene Ansätze für den Dokumentationsprozess zu entwickeln. In der Übergangszeit empfiehlt es sich, etablierte Standards für die Informationserstellung als Orientierung und Grundlage zu nutzen. Was die sprachliche und gestalterische Umsetzung betrifft, ist etwa die Norm DIN EN82079-1 eine Referenz. Sie legt branchenübergreifend allgemeine Anforderungen und Grundsätze für das Erstellen und Gestalten von Nutzerinformationen fest. Die Norm beschreibt, wie Informationen für den Benutzer klar, verständlich und strukturiert dargestellt werden sollen und bildet daher auch eine Grundlage für die Dokumentation von KI-Systemen.

Wie muss die Dokumentation zur Verfügung gestellt werden?

Für die Publikation gilt laut Artikel 13 der KI-Verordnung: Die digitale Bereitstellung der Betriebsanleitung ist grundsätzlich erlaubt. Im Softwarebereich erscheint dies als sinnvolle Möglichkeit. Für KMU und Startups ist zudem ein vereinfachtes Verfahren vorgesehen. Sie können die Dokumentation ihrer Hochrisiko-KI-Systeme über ein standardisiertes Formular der EU-Kommission bereitstellen. Die Veröffentlichung und konkrete Ausgestaltung dieses Formulars stehen noch aus.

Vorbereitet sein

Zwar stellt die KI-Verordnung vielfältige Anforderungen an die Technische Dokumentation, doch sie bietet auch Chancen: Wer eine durchdachte Informationsstrategie entwickelt, schafft einen Mehrwert für Kunden, Partner und Behörden. Der Aufwand lässt sich mit entsprechender Methodik und Werkzeugen reduzieren. Auch externe Dienstleister können unterstützen.