Italien hat ein neues Verbot der Gesichtserkennung eingeführt, das jedoch eine eklatante Ausnahmeregelung enthält, die in der gesamten EU Widerhall finden wird. Die neue Regelung verbietet den Einsatz von Gesichtserkennungstechnologie (FRT) – es sei denn, sie wird zur Verbrechensbekämpfung oder für gerichtliche Ermittlungen eingesetzt. Die italienische Datenschutzbehörde hat zugesagt, das Verbot aufrechtzuerhalten, bis neue Rechtsvorschriften erlassen werden, mindestens aber bis Ende 2023.
„Das Moratorium ergibt sich aus der Notwendigkeit, die Voraussetzungen, Bedingungen und Garantien für die Gesichtserkennung unter Beachtung des Grundsatzes der Verhältnismäßigkeit zu regeln“, erklärte die Behörde am Montag in einer Erklärung.
Bürgerrechtler begrüßten die neuen Beschränkungen vorsichtig, äußerten aber Bedenken, dass die Schlupflöcher manipuliert werden könnten.
„Dies würde die gesamte private Nutzung betreffen. Offensichtlich gibt es einige große Fragen darüber, wie weit ‚Verbrechensbekämpfung‘ interpretiert wird, aber wir werden das mit Interesse verfolgen“, twitterte Calli Schroeder, Global Privacy Counsel beim Electronic Privacy Information Center (EPIC).
Die neuen Vorschriften in Italien kommen inmitten hitziger Debatten in der EU über FRT-Beschränkungen. Die EU ist dabei, das wegweisende KI-Gesetz zu verabschieden, das den weltweit ersten umfassenden Rechtsrahmen für künstliche Intelligenz darstellen würde.
FRT hat sich als ein spaltender Bestandteil der Vorschläge erwiesen. Die Mehrheit der EU-Gesetzgeber will nun den Einsatz der Technologie zum wahllosen Scannen von Menschenmengen in Echtzeit verbieten. Diese Beschränkungen sollen jedoch Ausnahmen für die Polizeiarbeit vorsehen.
Die Befürworter dieser Ausnahmeregelungen argumentieren, dass sie zur Verbrechensbekämpfung beitragen, aber die Gegner warnen, dass sie missbraucht werden könnten. Im September sagte Dragos Tudorache, Mitglied des Europäischen Parlaments (MdEP) und Mitberichterstatter des KI-Gesetzes, dass die Ausnahmen eine „sehr schwierige Kontrolle und Rechenschaftspflicht“ darstellen würden.
Kritiker befürchten, dass die Regeln zu Massenüberwachung und repressiver Polizeiarbeit führen könnten. Diese Risiken sind besonders akut für Randgruppen und Dissidenten, die unverhältnismäßig oft Opfer von diskriminierender AI und ungenauen FRT-Ergebnissen sind.
Diese Ergebnisse wurden auf vorurteilsbehaftete Polizeiarbeit, nicht repräsentative Trainingsdaten oder eine Kombination aus beidem zurückgeführt. Aktivisten befürchten, dass FRT menschliche Voreingenommenheit algorithmisch verstärkt und automatisiert.
Diese Gefahren haben auch die Besorgnis des Gesetzgebers geweckt. Letzte Woche forderte Brando Benifei, ein italienischer Europaabgeordneter und Mitberichterstatter des KI-Gesetzes, dass die neue EU-Verordnung ein vollständiges Verbot der biometrischen Massenüberwachung enthalten sollte.
„Heute gibt es zwei verschiedene Schlupflöcher in dem von der Kommission vorgeschlagenen ‚Verbot‘: private Räume und ’nachträgliche‘ Erkennung sind nicht abgedeckt, aber es gibt auch Ausnahmen in Bezug auf einige strafrechtliche Untersuchungen und Verfolgungen“, sagte er. „Wir sollten – und ich werde mein Bestes tun – ein vollständiges Verbot im Parlament durchsetzen“.
Die endgültigen Regeln werden noch von der EU ausgearbeitet, aber sie könnten bis Mitte November verabschiedet werden. Da es sich um den weltweit ersten Versuch handelt, KI horizontal zu regulieren, werden die Auswirkungen über den Block hinausgehen.
