FM4-Logo

jetzt live:

Aktueller Musiktitel:

EU-Flagge löst sich in Nullen und Einsen auf

Radio FM4

Erich Moechel

EU-Kommission mauert gegen Transparenz bei KI-Projekten

Offenbar werden die Geschäftsinteressen der beteiligten Unternehmen als schützenswerteres Rechtsgut eingeschätzt als das öffentliche Interesse an EU-Forschungsprojekten, die mit öffentlichen Geldern in zweistelliger Millionenhöhe gefördert werden.

Von Erich Moechel

Am Freitag wurde die Musterklage des EU-Abgeordneten Patrick Breyer (Piraten/Grüne) gegen die Geheimhaltung eines von der Kommission geförderten Forschungsprojekts in Luxemburg verhandelt. „iBorderCtrl“ ist ein auf „künstlicher Intelligenz“ (KI) basierender „Video-Lügendetektor“ zum Einsatz bei Grenzkontrollen, der anhand der Mimik erkennen soll, ob Personen lügen.

Zugleich hat die Kommission eine zweite, detaillierte Anfrage von ORF.at beinahe ebenso faktenarm beantwortet wie die erste. Drei neue, von der Kommission mit 14,5 Millionen Euro geförderte KI-Projekte für Europol werden nämlich ebenso geheimgehalten. Für März hat die Kommission eine Regulation für „KI-Hochrisikoprojekte“ in den Bereichen Gesundheit und Strafverfolgung angekündigt.

Europol Dokumente

EU Commission

Die Kommission ist mit einem Entwurf zur Änderung der Europol-Verordnung gerade dabei, die Rechtsgrundlage für den Einsatz von KI und Big Data durch Europol zu schaffen. In Folge werden sich Rat und Parlament damit befassen. Bis zum Inkrafttreten einer Regelung sind alle drei Projekte bereits ausgelaufen.

Die Antworten der Kommission

Unter den Sicherheitsauflagen der Kommission für geförderte Projekte mit künstlicher Intelligenz steht Geheimhaltung an oberster Stelle.

Auf die Frage von ORF.at, wer die „unabhängigen Ethikexperten“ seien, die die - nach Definition der Kommission - „Hochrisikoprojekte“ mit den Namen „Darlene“, „Aida“ und „Infinity“ überprüft haben, gab es im Wesentlichen nur die folgende Antwort: „Um die Unabhängigkeit ihrer Arbeit zu gewährleisten, werden die Namen der Experten, die Projekte evaluieren, nicht veröffentlicht.“ Der große Rest der Antwort: Alles gemäß den Regeln, ausgewogen und unter Berücksichtigung aller bestehenden Gesetze.

Die nächste Frage, „Wie viele Mitglieder dieses Ethik-Expertenrats verfügen über Expertise zu Informationstechnologie? Sind auch Personen aus der Zivilgesellschaft etwa mit Datenschutzhintergrund involviert?“, wurde im Wesentlichen mit „Ja“ beantwortet. Die Experten verfügten alle über den nötigen Hintergrund, um Ethikfragen zu beurteilen, etwa in Fragen der Menschenrechte oder des Datenschutzes im Zusammenhang mit verschiedenen Technologien wie etwa KI, so die Auskunft der Kommission. Überprüfen lässt sich das nicht, in den Projektbeschreibungen von „Darlene“, „Infinity“ und „Aida“ werden Sicherheitsmaßnahmen, Datenschutz oder Ethik nicht erwähnt.

Darlene Solutions in Case #1

Public Domain

Im Projekt „Darlene“ sollen Datenbrillen die Exekutive bei der operativen Einschätzung von aktuellen Gefahrenlagen unterstützen. Diese Brillen werden - wie könnte es anders sein - mit 5G vernetzt und an eine Cloud angebunden, in der die KI-Anwendung läuft. Welche Rolle die Datenbrillen bei Cyberangriffen spielen sollen, geht aus der Website des Projekts nicht hervor.

Training mit „synthetischen Datensätzen“

Die Positionen von Kommission und Parlament zu künstlicher Intelligenz passen so gar nicht mit den hier beschriebenen „Horizon 2020“-Projekten zusammen.

Wenigstens die Frage nach Herkunft und Art der großen Datensätze, die zum Training von KI-Programmen nötig sind, bringt eine einigermaßen substanzielle Antwort ein. Forschungsprojekten sei es nicht möglich, "reale Daten aus Ermittlungen zu verwenden, deshalb sei geplant „anonymisierte, pseudonymisierte oder künstlich generierte Datensätze“ zu verwenden, die allerdings reale Situationen abbilden sollten. So sei für das Projekt „Aida“ geplant, neben anonymisierten Daten auch synthetische Datensätze zum Training einzusetzen, die Bilder aus Überwachungskameras simulierten, hieß es seitens der Kommission.

Das Projekt „Infinity“ werde ebenfalls "Dummy-Daten und pseudonymisierte Datensätze verwenden, aber auch öffentlich verfügbare, personenbezogene Daten. „Infinity“ und „Darlene“ sind beide Augmented-Reality-Projekte, von denen es gerade einmal dürre Projektbeschreibungen gibt, die einander so ähnlich sind, als hätte sie ein- und dieselbe „künstliche Intelligenz“ in einem frühen Trainingsstadium verfasst. Während es bei diesen beiden Projekten um Datenbrillen bei der Zusammenarbeit in „der virtuellen Realität“ bzw. beim operativen Einsatz in Gefahrensituationen geht, ist „Aida“ eine Datenanalyse-Plattform, um „kriminelle Aktivitäten zu entdecken, analysieren und zu bekämpfen“. Bei allen drei hätten „unabhängige externe Evaluatoren“ deren Förderungswürdigkeit bestätigt. Wer diese Evaluatoren sind, erfährt man wie gesagt freilich nicht.

EU Kommission Infinity

EU Kommission

Dieser Marketingtext im Gesamtumfang von etwa 2.000 Zeichen ist derzeit alles, was die Öffentlichkeit vom Projekt „Infinity“ erfahren kann: Der Text besteht aus einer Ansammlung aller KI-Buzzwords, die bei den Marketern der KI-Branche gebräuchlich sind. 6,9 Millionen Euro an öffentlichen Geldern gingen an das Projekt „Infinity“, die Ergebnisse betrachtet die Kommission offenbar als Geschäftsgeheimnisse des Rüstungskonzerns Airbus, der das Projekt leitet. Auch über das Forschungsprojekt Artificial Intelligence and advanced Data Analytics for Law Enforcement Agencies („Aida“) ist bis jetzt nicht mehr als dieser Text bekannt.

Das bereits ausgelaufene „Horizon 2000“-Projekt „Insikt“ ist mittlerweile ein Start-up-Unternehmen, dessen Produkt „Inviso“ bereits unter Strafverfolgern offensiv vermarktet wird.

Der Prozess vor dem EuGH

In der Kommission ist man der Ansicht, dass eine öffentliche Kontrolle der Forschungsförderung nicht nötig sei. Das hatte der Anwalt der EU-Forschungsagentur am Freitag in der Verhandlung vor dem Europäischen Gerichtshof erklärt. MEP Patrick Breyer hatte auf Veröffentlichung der Ergebnisse des Projekts „Video-Lügendetektor“ geklagt, nachdem seine parlamentarischen Anfragen dazu nicht beantwortet worden waren. Man verfolge bewusst keinen Open-Access-Ansatz, um Wettbewerbsvorteile der teilnehmenden Unternehmen zu schützen. Darstellungen in der Öffentlichkeit könnten die Verantwortlichen unter Druck setzen und die Fertigstellung sowie Vermarktung der Technologie gefährden. Wann der Europäische Gerichtshof eine Urteil abgegeben wird, ist derzeit nicht bekannt.

Die Mahnungen des Chefberaters

„Künstliche Intelligenz kann und wird dem Gemeinwohl nicht dienen, wenn es dafür nicht klare Regeln gibt“, heißt es in dem vielbeachten Aufsatz Constitutional Democracy and Technology in the Age of Artificial Intelligence, der für die „Philosophical Transactions“ der Royal Society London 2018 verfasst wurde. „Die potenziellen Möglichkeiten von KI können bedeutende und unumkehrbare Schäden für die Gesellschaft anrichten, die katastrophaler ausfallen können, als die vorherige Nicht-Regulation des Internets“, schreibt Paul Nemitz, einer der Chefberater der EU-Kommission.

Paul Nemitz

Paul Nemitz

Ende 2020 ist auch das Buch zum Thema erschienen: „Prinzip Mensch – Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz“ von Paul Nemitz und Matthias Pfeffer

Um solche Schäden hintanzuhalten, bedürfe es eines „grundlegenden rechtlichen Rahmens, um die Interessen der Öffentlichkeit bei der Entwicklung von KI-Anwendungen zu wahren“. Ethik sei zwar gut und schön, besonders dann, wenn sie noch über die gesetzlichen Vorgaben hinausgehe, „eine gesetzliche Regelung kann sie jedoch nicht ersetzen, dann das würde den demokratischen Prozess unterminieren“. Was Chefberater Nemitz anmahnt - wobei er vor allem auf den KI-Einsatz der großen Internetkonzerne abzielt -, gilt offenbar für diese drei EU-Projekte nicht. Wie die Betonung von Geschäftsgeheimnissen und Wettbewerbsvorteilen durch EU-Beamte vor dem EuGH zeigt, werden die wirtschaftlichen Interessen der beteiligten Firmen als höheres Rechtsgut eingestuft als das öffentliche Interesse an diesen KI-Projekten, die mit öffentlichen Geldern in zweistelliger Millionenhöhe gefördert werden.

Hier ist der RSS-Feed für diesen Blog. Sachdienliche Informationen, Metakritiken et al. sind über dieses Formular verschlüsselt und anonym beim Autor einzuwerfen. Wer eine Antwort will, gebe tunlichst eine Kontaktmöglichkeit an.

Aktuell: