Am 2. Februar 2025 treten in der Europäischen Union neue Regeln für den Umgang mit künstlicher Intelligenz (KI) in Kraft, die als die ersten weltweit geltenden Vorschriften ihrer Art gelten. Diese umfassende Regelung, bekannt als KI-Verordnung (KI-VO), soll den Einsatz von KI-Technologien regulieren und dabei grundlegende Rechte der Verbraucher schützen sowie das Potenzial für Innovationen fördern. Im Mittelpunkt steht ein risikobasierter Ansatz, der sicherstellt, dass KI-Praktiken nicht mit den fundamentalen Werten der EU im Widerspruch stehen. So werden insbesondere Praktiken wie Social Scoring und das ungezielte Auslesen von Gesichtsbildern verboten, da sie ein inakzeptables Risiko für Grundrechte darstellen. Unternehmen, die KI entwickeln oder einsetzen, sind verpflichtet, ihre Systeme bis zum Stichtag zu bewerten und geeignete Maßnahmen zu ergreifen. Die BFDI hebt hervor, dass das Hauptziel dieser Verordnung darin besteht, den verantwortungsvollen Einsatz von KI zu fördern und die Rechte der Verbraucher zu schützen.
Ein zentrales Element der neuen Regelungen betrifft die Gesichtserkennung im öffentlichen Raum. Diese Technologie soll grundsätzlich nicht erlaubt sein, mit Ausnahme der Nutzung durch Polizei und Sicherheitsbehörden zur Verfolgung schwerwiegender Straftaten wie Menschenhandel und Terrorismus. Jaumann berichtet über die spezifischen Herausforderungen und die intensive Diskussion im Vorfeld über diese Vorschriften. Trotz anfänglicher Bedenken wollte das EU-Parlament ein vollständiges Verbot aller Formen der Gesichtserkennung durchsetzen. Letztlich konnten jedoch Ausnahmen für identifizierende Maßnahmen in bestimmten Situationen, etwa bei akuten Gefahren, durchgesetzt werden.
Risikoklassifizierung und Aufsicht
Die KI-VO kategorisiert KI-Systeme nach ihrem Risiko. Hochrisiko-KI-Systeme, die beispielsweise in Fahrzeugen oder zur biometrischen Identifizierung eingesetzt werden, müssen strengen Anforderungen genügen. Diese beinhalten Vorgaben zur Datenqualität, Cybersicherheit und menschlicher Aufsicht. Besonders erwähnenswert ist die Notwendigkeit, dass einige dieser Systeme in einer EU-weiten Datenbank registriert werden müssen, was auch neue Verantwortlichkeiten für die Datenschutzaufsichtsbehörden nach sich zieht. Diese erhalten Zugriff auf dokumentarische Nachweise zur Einhaltung der Regelungen und können technische Prüfungen anordnen. Die Zeit berichtet, dass es Unklarheiten bezüglich der Aufsicht über Systeme mit allgemeinem Verwendungszweck gibt. Hier wird es wichtig sein, dass jedes EU-Mitglied landet einen Single-Point-of-Contact benennen soll, um Beschwerden und Verstöße effizient zu bearbeiten.
Ein weiterer bedeutender Aspekt ist die Schaffung von Reallaboren, die Entwickler von KI-Systemen dabei unterstützen sollen, innovative Technologien innerhalb kontrollierter Umgebungen zu testen und zu validieren. Solche Initiativen sind entscheidend, um nicht nur rechtliche und sicherheitstechnische Anforderungen zu erfüllen, sondern auch um ein förderliches Klima für Innovation zu schaffen, während die Rechte der Nutzer darauf geschützt werden.
Kritik und Debatten
Trotz der Einigung über diese strengen Regelungen gab es auch kritische Stimmen. EU-Kommissionspräsidentin Ursula von der Leyen wertete die Einigung als weltweites Novum, jedoch äußerten Politiker wie Svenja Hahn von der FDP gemischte Gefühle und forderten ein stärkeres Bekenntnis zum Schutz der Bürgerrechte. Axel Voss von der CDU hingegen warnte vor möglichen negativen Auswirkungen auf die Wettbewerbsfähigkeit Europas im Bereich KI. Auch die europäische Verbraucherschutzorganisation Beuc stellte fest, dass die Regulierung von virtuellen Assistenten und KI-gesteuerten Spielzeugen nicht ausreichend ist.
Der nächste Schritt in diesem Prozess erfordert die Zustimmung der EU-Staaten und des Europaparlaments, was zwar als Formsache gilt, jedoch den endgültigen Rahmen für die neu formulierten Richtlinien und deren Umsetzung definiert. Der allumfassende Ansatz der KI-VO wird in den kommenden Monaten und Jahren eine entscheidende Rolle in der internationalen Regulierung von KI spielen und soll einen verantwortungsvollen Umgang mit fortschrittlichen Technologien gewährleisten.
