2. Transparenz von KI-Systemen

"AI Act" und Transparenz von KI-Systemen


In diesem Abschnitt werden wir genauer beleuchten, welche Regeln das KI-Gesetz der EU für bestimmte KI-Systeme vorsieht, um deren Transparenz zu gewährleisten. Doch zuvor eine kurze Einführung in das KI-Gesetz der europäischen Union, den "AI Act".


Das KI-Gesetz der EU ("AI Act")

Das KI-Gesetz der EU, der "AI Act" trat am 1. August 2024 in Kraft. Er wurde am 13. März 2024 durch das EU-Parlament genehmigt und im Amtsblatt der EU veröffentlicht. Das Hauptziel des EU-KI-Gesetzes ist es sicherzustellen, dass der Einsatz von KI-Systemen mit den Grundrechten im Einklang steht, die durch den "EU-Vertrag über die Grundrechte" geschützt werden.

Der AI Act verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme je nach ihrem Risiko bewertet und reguliert werden. Anbietende und Betreibende von KI-Systemen müssen diverse Auflagen erfüllen. "Hochrisiko-KI-Systeme" unterliegen strengen Anforderungen, während weniger riskante Anwendungen weniger reguliert werden.


Risikokategorien von KI-Systemen

Der EU AI Act teilt KI-Systeme in vier Risikokategorien ein:

    • Unvertretbares Risiko: Systeme, die gegen EU-Werte und Grundrechte verstoßen, sind verboten (z. B. Social Scoring nach dem Vorbild Chinas).
    • Hohes Risiko: Hochrisiko-KI-Systeme werden in diese Kategorie eingestuft, da sie ein hohes Risiko für die Gesundheit, Sicherheit oder die Grundrechte natürlicher Personen darstellen. Diese Systeme sind auf dem europäischen Markt zugelassen, müssen jedoch die Anforderungen der Konformitätsbewertung (Conformity Assessment) sowie verbindliche Vorgaben in Bezug auf Datenmanagement, Dokumentation und Aufzeichnung, Transparenz und Bereitstellung von Informationen für die Nutzenden erfüllen. Hochrisiko-KI-Systeme sind beispielsweise Systeme in Bereichen wie Medizin, Verkehr, Beschäftigung oder Strafverfolgung.
    • Begrenztes Risiko: Systeme, die Transparenzanforderungen erfüllen müssen (z. B. Chatbots, die klar als solche gekennzeichnet werden).
    • Minimales Risiko: Anwendungen wie Spiele oder KI-gestützte Textverarbeitungstools, die kaum reguliert werden.


Transparenz von KI-Systemen - AI Act


Für KI-Systeme mit hohem Risiko stellt das KI-Gesetz eine Reihe von Anforderungen, darunter auch Transparenzregeln für bestimmte KI-Systeme. Die Transparenzanforderung ist in Artikel 13 festgelegt. Lesen Sie den Artikel 13 unten:

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte
1. KI-Systeme mit hohem Risiko sind so zu konzipieren und zu entwickeln, dass ihr Betrieb hinreichend transparent ist, damit die Anwender die Ergebnisse des Systems interpretieren und angemessen nutzen können.
2. KI-Systemen mit hohem Risiko sind Gebrauchsanweisungen in einem geeigneten digitalen Format oder auf andere Weise beizufügen, die prägnante, vollständige, korrekte und klare Informationen enthalten, die für die Anwender relevant, zugänglich und verständlich sind.
3. Die Gebrauchsanweisung muss mindestens die folgenden Angaben enthalten:
(a) die Identität und die Kontaktdaten des Dienstleistungserbringers und gegebenenfalls seines Bevollmächtigten;
(b) die Merkmale, Fähigkeiten und Leistungsgrenzen des KI-Systems für hohe Risiken, einschließlich: (i) den beabsichtigten Zweck; (ii) das Genauigkeitsniveau, einschließlich der Metriken, die Robustheit und die Cybersicherheit gemäß Artikel 15, mit dem das KI-System mit hohem Risiko getestet und validiert wurde und das erwartet werden kann, sowie alle bekannten und vorhersehbaren Umstände, die sich auf das erwartete Genauigkeits-, Robustheits- und Cybersicherheitsniveau auswirken können; (iii) alle bekannten oder vorhersehbaren Umstände im Zusammenhang mit der bestimmungsgemäßen Verwendung des Hochrisiko-KI-Systems oder einer vernünftigerweise vorhersehbaren Fehlanwendung, die zu Risiken für die Gesundheit und Sicherheit oder die Grundrechte gemäß Artikel 9 Absatz 2 führen können; (iv) gegebenenfalls die technischen Fähigkeiten und Merkmale des KI-Systems mit hohem Risiko, Informationen zu liefern, die für die Erklärung seiner Ergebnisse relevant sind; (v) gegebenenfalls die Leistung des Systems in Bezug auf bestimmte Personen oder Personengruppen, bei denen das System eingesetzt werden soll; (vi) gegebenenfalls Spezifikationen für die Eingabedaten oder sonstige relevante Informationen über die verwendeten Trainings-, Validierungs- und Testdatensätze unter Berücksichtigung des beabsichtigten Zwecks des Hochrisiko-KI-Systems; (vii) gegebenenfalls Informationen, die es den Einsatzkräften ermöglichen, die Ergebnisse des KI-Systems für hohe Risiken zu interpretieren und angemessen zu nutzen;
(c) die Änderungen am KI-System für hohe Risiken und seiner Leistung, die der Anbieter zum Zeitpunkt der ersten Konformitätsbewertung festgelegt hat, sofern vorhanden;
(d) die menschliche Aufsichtsmaßnahmen, einschließlich der technischen Maßnahmen, die zur Erleichterung der Interpretation der Ergebnisse der KI-Systeme mit hohem Risiko durch die Anwender getroffen werden;
(e) die erforderlichen Rechen- und Hardwareressourcen, die voraussichtliche Lebensdauer des KI-Systems mit hohem Risiko und alle erforderlichen Wartungs- und Pflegemaßnahmen, einschließlich ihrer Häufigkeit, um das ordnungsgemäße Funktionieren des KI-Systems zu gewährleisten, auch in Bezug auf Software-Updates;
(f) gegebenenfalls eine Beschreibung der Mechanismen innerhalb des KI-Systems für Hochrisikopersonen, die es den Einsatzkräften ermöglichen, die Protokolle ordnungsgemäß zu erfassen, zu speichern und auszuwerten.
Hier können Sie den gesamten Artikel 13 lesen: “Artikel 13: Transparenz und Bereitstellung von Informationen für Betreiber | EU-Gesetz über künstliche Intelligenz.” Accessed December 16, 2024. https://artificialintelligenceact.eu/de/article/13/.




!     Was ist Ihre Meinung zu den Transparenzanforderungen der KI-Verordnung für Hochrisiko-KI-Systeme? Was sind Ihrer Meinung nach die Vor- und Nachteile? Was wäre Ihrer Meinung nach die beste Möglichkeit, um die Probleme mangelnder Transparenz und Erklärbarkeit zu verringern?

Nachdem Sie sich die Antwort überlegt haben, sehen Sie sich dieses Video über die Meinungsverschiedenheiten der Experten und Expertinnen bezüglich des KI-Gesetzes an.