KI-Regulierung der EU steuert auf Kontroversen zu

Wenn Algorithmen bei Entscheidungen von Firmen und Behörden über Menschen ausschlaggebend werden, wird es gefährlich. Die größte Allianz von Daten- und Konsumentenschützern der letzten Jahre mahnt große Vorsicht bei dieser Regulierung ein.

Von Erich Moechel

Die Verordnungen „Digitaler Markt“ (DMA) und „Digitale Services“ (DSA), sind bereits beschlossen. Die später gestartete Regulierung des Einsatzes von „Künstlicher Intelligenz“ (KI) ist derzeit ebenfalls noch in raschem Tempo durch die EU-Institutionen unterwegs.

Nun zeichnen sich allerdings erhebliche Kontroversen ab, was da reguliert wird, greift nämlich tief in die Lebenswelt aller EU-Bürger ein. Die im April veröffentlichten Schutzmaßnahmen der Parlamentsausschüsse gehen Datenschützern längst nicht weit genug. 124 europäische und internationale NGOS verlangen unter anderem ein Verbot von KI-Gesichtserkennung auf öffentlichen Plätzen.

Authentifizierung und Identifikation

Der Umfang und die Bedeutung dieser Regulierung, die vom Gesundheitssektor über Bildung, Arbeitswelt bis hin zur Strafverfolgung alle denkbaren Lebensbereiche betrifft, zeigt sich schon an den Parlamentsausschüssen, die damit befasst sind. Beim „AI Act“ sind gleich zwei davon federführend, nämlich der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) sowie jener für Binnenmarkt und Verbraucherschutz (IMCO), vier weitere Ausschüsse tragen Positionen bei. Derzeit werden Änderungsanträge durch die Mitglieder der federführenden Ausschüsse erstellt und untereinander akkordiert, als vorläufige Deadline dafür wurde der 18. Mai genannt.

Aktuell liegen bereits die ersten Änderungsanträge zum Kommissionsentwurf vor, die nach Ansicht der Kritiker allerdings viel zu kurz greifen. Sie fordern ein Verbot „biometrischer Fernidentifikation“ an öffentlich zugänglichen Orten, damit ist in erster Linie die Kombination von Überwachungskameras und Software zur Gesichtserkennung gemeint. Solche technischen Set-ups haben zwar durchaus eine Funktion, etwa zur Authentifizierung bei Passkontrollen oder als Zutrittsmechanismus für Hochsicherheitsbereiche. In diesen Fällen wollen die Betroffenen selbst authentifiziert werden, um den Kontrollpunkt friktionsfrei zu passieren.

Rassistische Algorithmen

Wenn Algorithmen zur Gesichtserkennung allerdings ohne das Wissen der Betroffenen hinter Kamerasystemen in öffentlichen Räumen werken, ist die Sachlage völlig anders, dann handelt es sich um biometrische Identifizierung: Personen werden also perlustriert und ihre biometrischen Daten erfasst, ohne dass es diesen Personen bewusst ist. Dazu kommt, dass KI-Algorithmen keine eindeutigen Ergebnisse liefern, sondern Wahrscheinlichkeiten berechnen. Wie riskant das in bestimmten Lebensbereichen sein kann, hat ein Skandal gezeigt, der Anfang 2021 zum Rücktritt der niederländischen Regierung führte. Seit 2012 war bei den niederländischen Behörden eine KI-Software zur Erkennung von Sozialbetrug im Einsatz.

Offensichtlich hatten die Beamten der Software vollständig vertraut, Kontrollprozesse gab es offenbar keine. Die so von Algorithmen des Sozialbetrugs „Überführten“ sahen sich mit fünfstelligen Rückzahlungen von Kindergeld und anderen Sozialleistungen konfrontiert, verloren im Anschluss oft ihre Kreditwürdigkeit, Familien zerbrachen oder wurden delogiert. Als der Skandal 2020 aufflog, waren es 26.000 Familien bzw. Elternteile, die zu Unrecht als Sozialbetrüger abgestempelt worden waren. So gut wie alle Betroffenen stammten aus dem unteren Drittel der Gesellschaft, die überwiegende Mehrzahl hatte Migrationshintergrund. Auch in Dänemark ist Ähnliches, ebenfalls im Sozialbereich passiert, auch dort waren die Betroffenen in erster Linie Menschen mit Migrationshintergrund.

Wie es mit der KI-Regulierung weitergeht

Laut Zeitplan soll aus den Amendments der Parlamentarier eine konsolidierte Parlamentsversion des Textes bis Oktober stehen, über die in Folge das Parlamentsplenum abstimmen wird. Jetzt schon lässt sich sagen, dass die Version des Ministerrats ziemlich anders als die Parlamentsversion aussehen wird, am deutlichsten werden die Differenzen im Bereich Strafverfolgung zu sehen sein.