Wofür es KI-Regeln braucht

Die Abgeordneten des Europä­ischen Parlaments haben ihre Position für die Verhandlungen mit den EU-Staaten über neue Vorschriften für „menschenzentrierte und vertrauenswürdige Künstliche Intelligenz“ festgelegt. Der risikobasierte Ansatz sieht ein Verbot der „gefährlichsten und manipulativsten KI-Anwendungen“ vor.

Innovationen sollen jedoch nicht behindert werden. Somit können die Gespräche mit den EU-Mitgliedstaaten über die endgültige Form des Gesetzes beginnen. Die Verordnung soll dafür sorgen, dass in der EU entwickelte und eingesetzte KI in vollem Umfang den Rechten und Werten der Europäischen Union entsprechen. Dazu gehört, dass die KI-Anwendungen von Menschen beaufsichtigt werden, Anforderungen an Sicherheit, Datenschutz und Transparenz genügen, niemanden diskriminieren und weder Gesellschaft noch Umwelt schädigen.

Verbotene KI-Praktiken
Die Vorschriften richten sich nach dem Grad der Gefahr, die von Künstlicher Intelligenz möglicherweise ausgeht. Je nachdem, wie groß diese Gefahr ist, gelten künftig Pflichten für Anbieter und Nutzer. KI-Systeme, die die menschliche Sicherheit in inakzeptabler Weise gefährden, sollen demnach verboten werden, wie etwa solche, die für „Social Scoring“ (Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale) verwendet werden. Die Abgeordneten fordern Verbote für weitere KI-Anwendungen, die in die Privatsphäre eingreifen und diskriminieren:

• für biometrische Systeme, die es ermöglichen, Personen in Echtzeit oder nachträglich an öffentlich zugänglichen Orten aus der Ferne zu identifizieren;
• für Systeme zur biometrischen Kategorisierung anhand sensibler Merkmale (z. B. Geschlecht, ethnische Zugehörigkeit, Staatsbürgerschaft, Religion oder politische Orientierung);
• für vorausschauende Polizeiarbeit, die mit Profilerstellung und Standortermittlung arbeitet und aufgrund früheren kriminellen Verhaltens abschätzt, inwieweit eine Person Gefahr läuft, straffällig zu werden;
• für in der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen verwendete Emotionserkennungssysteme
• für das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

Hochriskante KI
Die Abgeordneten sorgten dafür, dass KI-Systeme, die die Gesundheit, die Sicherheit und die Grundrechte von Menschen beziehungsweise die Umwelt erheblich gefährden, nun als Hochrisiko-Anwendungen gelten. In die entsprechende Liste wurden KI-Systeme aufgenommen, die zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern) eingesetzt werden.

Pflichten für KI-Systeme zur allgemeinen Verwendung
Anbieter von Basismodellen (foundation modells) – einer Neuentwicklung im KI-Bereich, die rasante Fortschritte macht – müssen künftig Risiken (für Gesundheit, Sicherheit, die Grundrechte von Personen, die Umwelt oder für Demokratie und Rechtsstaatlichkeit) abschätzen und mindern und ihre Modelle in der entsprechenden EU-Datenbank registrieren, bevor sie auf den EU-Markt kommen.

Generative KI-Systeme wie ChatGPT, die auf solchen Modellen beruhen, müssen Transparenzanforderungen erfüllen. Das heißt, sie müssen offenlegen, dass die Inhalte KI-generiert sind, um beispielsweise sogenannte Deepfake-Fotos von echten Abbildungen zu unterscheiden. Zusätzlich ist es erforderlich, dass keine rechtswidrigen Inhalte erzeugt werden. Außerdem müssen sie detaillierte Zusammenfassungen der urheberrechtlich geschützten Daten veröffentlichen, die sie zu Trainingszwecken verwendet haben.

Um KI-Innovationen zu fördern und kleine und mittlere Unternehmen zu unterstützen, fügte das Parlament Ausnahmeregelungen hinzu, die für Forschung und KI-Komponenten gelten, die im Rahmen von quelloffenen Lizenzen bereitgestellt werden. Die neuen Vorschriften fördern sogenannte Reallabore (sandboxes), in denen Behörden KI-Anwendungen unter realen Bedingungen testen können, bevor sie eingesetzt werden.

Das Parlament will außerdem das Recht der Bürgerinnen und Bürger stärken, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf dem Einsatz hochriskanter KI-Systemen beruhen und ihre Grundrechte erheblich beeinträchtigen. Die Abgeordneten planen darüber hinaus ein Europä­isches Amt für Künstliche Intelligenz einzurichten, das die Umsetzung des KI-Regelwerks überwachen soll.

(Erschienen im EU-Recycling Magazin 09/2023, Seite 10, Foto: Gerd Altmann / pixabay.com)