With 377 votes in favour, 248 against, and 62 abstentions, the European Parliament passed a resolution on 6 October 2021 calling on the European Commission to establish a permanent ban on biometric video surveillance in public.
In particular, the Parliament requested the Commission to put all necessary tools to prevent any processing of biometric data, including facial images, used by law enforcement agencies that could lead to mass surveillance in public places.
MEPs pointed out that artificial intelligence-based identification systems risk causing discrimination among individuals, particularly those belonging to ethnic minority groups.
Although artificial intelligence-based technologies have made huge strides in recent years, they are not yet reliable enough to avoid a large number of “false positives,” which could pose “unacceptable” risks to the rights and freedoms of those concerned.
The floor now passes to the Commission, which, moreover, had already expressed itself on this point with the proposal for a Regulation on artificial intelligence, published on 21 April 2021.
In the above-mentioned proposal (now known as the Intelligence Artificial Act), the Commission distinguishes between prohibited processing; prohibited but allowed under certain conditions, high-risk and low-risk processing.
Real-time biometric identification systems in spaces open to the public for law enforcement purposes are considered prohibited by the proposed regulation (Art. 5(d)), unless they are necessary for the specific search of victims of crime (e.g. missing persons), or for the prevention of a specific and imminent danger, as well as for the location or arrest of a person suspected of crimes for which a European warrant has been issued.
In any case, the proposal for a Regulation reserves a certain degree of discretion to the Member States, since the authority may consider the use of facial recognition by assessing the concrete situation, the seriousness, the probability, and the extent of the prejudice that would be caused by the non-use of the identification system, as well as the consequences deriving from the use of the latter concerning the rights and freedoms of the persons concerned.
While waiting for the good intentions to flow into a unified and coherent regulatory framework, also the United Nations High Commissioner for Human Rights has expressed his opposition to the use of similar technologies for facial recognition, as they lack the requirements to ensure the protection of personal data of the persons concerned, as well as the discriminatory impacts resulting from the use of opaque and inaccurate algorithms.
****
VIDEOSORVEGLIANZA E RICONOSCIMENTO BIOMETRICO: IL PARLAMENTO EUROPEO SI OPPONE
Con 377 voti a favore, 248 contrari e 62 astensioni, il 6 ottobre 2021 il Parlamento Europeo ha approvato una risoluzione per chiedere alla Commissione Europea di istituire un divieto permanente sulla videosorveglianza biometrica in pubblico.
In particolare, il Parlamento ha richiesto alla Commissione che venga predisposto ogni strumento necessario per impedire qualsiasi trattamento di dati biometrici, comprese le immagini facciali, utilizzato dalle forze dell’ordine, che possa portare ad una sorveglianza di massa nei luoghi pubblici.
I parlamentari europei hanno sottolineato che i sistemi di identificazione basati sull’intelligenza artificiale rischiano di provocare discriminazioni tra gli individui, in particolare tra coloro facenti parte di gruppi etnici minoritari.
Infatti, sebbene le tecnologie basate sull’intelligenza artificiale abbiano compiuto enormi passi in avanti negli ultimi anni, non offrono ancora quel grado di affidabilità tale da evitare la segnalazione di numerosi “falsi positivi”, in grado di generare rischi “inaccettabili” con riferimento ai diritti ed alle libertà degli interessati.
La parola passa ora alla Commissione, la quale peraltro si era già espressa sul punto con la proposta di regolamento sull’intelligenza artificiale, pubblicata il 21 aprile 2021.
Nella proposta suddetta (ormai nota come Intelligence Artificial Act), la Commissione distingue tra trattamenti vietati; vietati, ma consentiti a determinate condizioni; trattamenti ad alto rischio ed a rischio minimo.
I sistemi di identificazione biometrica real time in spazi aperti al pubblico per finalità di polizia (law enforcement) sono considerati vietati dalla proposta di regolamento (art. 5, lett. d), a meno che non siano necessari per la ricerca specifica di vittime di reati (ad es. persone scomparse), oppure per la prevenzione di un pericolo specifico ed imminente, nonché per la localizzazione o l’arresto di un soggetto sospettato di reati per i quali è previsto un mandato europeo.
Ad ogni modo, la proposta di regolamento riserva un certo grado di discrezionalità agli Stati membri, potendo l’autorità considerare l’impiego del riconoscimento facciale valutando la situazione concreta, la gravità, la probabilità e l’entità del pregiudizio che sarebbe causato dal mancato uso del sistema di identificazione, nonché le conseguenze derivanti dall’impiego di quest’ultimo con riferimento ai diritti ed alle libertà degli interessati.
In attesa che i buoni propositi confluiscano in un quadro normativo unitario e coerente, anche l’Alto Commissario delle Nazioni Unite per i diritti umani si è espresso sul punto, dichiarandosi contrario all’utilizzo di tecnologie simili per il riconoscimento facciale, in quanto prive dei requisiti necessari per garantire la protezione dei dati personali degli interessati, oltre che per gli impatti discriminatori derivanti dall’impiego di algoritmi opachi ed imprecisi.