Ähnlich wie bei der Diskussion über die Definition von Künstlicher Intelligenz gibt es auch keine einheitliche Definition von KI-Systemen – und genau das kann problematisch sein. Schauen wir uns an, warum das so ist.

Warum ist es wichtig zu wissen, was ein KI-System ist?

KI-Systeme können unser Leben auf vielfältige Weise positiv beeinflussen. Sie bringen Fortschritte in Bereichen wie Gesundheitswesen, Bildung, Biologie, Journalismus, Wirtschaft oder Geologie. Gleichzeitig weisen sie bestimmte Eigenschaften auf, die auch Risiken mit sich bringen können: Sie sind oft komplex, undurchsichtig, datenintensiv und können autonom handeln. Das kann unbeabsichtigte Folgen haben – zum Beispiel:

• die Verstärkung von Vorurteilen (Bias)

• Verletzungen des Datenschutzes oder von Urheberrechten

• mangelnde Transparenz oder fehlende Erklärbarkeit

Wenn Fachkräfte verstehen, was KI-Systeme sind, sie erkennen und kritisch einschätzen können, dann sind sie in der Lage,
fundierte Entscheidungen zu treffen, sich für ethische Anwendungen einzusetzen und an Debatten über Verantwortung und Regulierung mitzuwirken.

Gleichzeitig wächst der Bedarf an Gesetzen zur Regulierung von KI-Systemen. Aber wie soll man entscheiden, welche Systeme unter solche Gesetze fallen, wenn nicht klar ist, was genau ein KI-System ist? Um diesem Problem zu begegnen, haben internationale Organisationen im Rahmen des KI-Gesetzes der EU (dem europäischen Rechtsrahmen für KI) intensiv daran gearbeitet, eine klare Definition für KI-Systeme zu formulieren.

Für diesen Kurs verwenden wir die aktuellste Definition, wie sie im KI-Gesetz der Europäischen Union festgelegt wurde.

"KI-System ist ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können.

EU AI Act, 2024.