La Vanguardia (Català-1ª edició)
L’Eurocambra demana de prohibir els sistemes de vigilància massiva amb IA
També vol que no es puguin implementar sistemes de puntuació social
El Parlament Europeu va votar dimecres a favor de prohibir permanentment l’ús de sistemes de vigilància massiva de la població basats en paràmetres biomètrics i intel·ligència artificial (IA), com per exemple el reconeixement facial.
De fet, el parlament el que va fer va ser ratificar –amb 377 vots a favor i 248 en contra– l’informe sobre aquesta qüestió elaborat per la Comissió de Llibertats Civils, Justícia i Assumptes d’Interior (LIBI) del Parlament.
A l’esmentat document, es demana a la Comissió Europea que s’“implementi, a través de mitjans tant legislatius com no legislatius, i si és necessari mitjançant procediments d’infracció, la prohibició de qualsevol processament de dades biomètriques, incloent-hi imatges facials, amb finalitats policials que condueixi a una vigilància massiva en espais d’accés públic”.
A més a més el parlament demana que la Comissió “deixi de finançar la investigació o el desplegament biomètric o els programes que puguin donar lloc a una vigilància massiva indiscriminada en els espais públics”.
En aquest sentit, els eurodiputats es van centrar en un controvertit projecte d’investigació finançat per la Unió Europea (UE) per crear un detector de mentides ‘intel·ligent’ basat en l’anàlisi d’expressions facials i pensat per ajudar en el control de fronteres (anomenat iBorderCtrl), el desenvolupament del qual creuen que s’hauria d’interrompre.
Actualment a Europa ja hi ha cossos policials que utilitzen bases de dades privades de reconeixement facial, com el sistema d’intel·ligència artificial creat per la start-up dels Estats Units Clearview –denunciada a cinc països per alimentar-se amb fotos de persones robades d’internet–, que els eurodiputats també van demanar que es prohibís, ja que pensen que la vigilància policial predictiva també s’hauria de prohibir.
A totes aquestes demandes els eurodiputats van afegir que no es puguin implementar sistemes de puntuació social que s’utilitzen per qualificar els ciutadans en funció del seu comportament o personalitat, com ja passa a la Xina.
Finalment, la resolució adoptada també fa referència al biaix algorítmic. Segons els parlamentaris, s’ha demostrat que la IA té tendència a identificar erròniament grups ètnics minoritaris, persones LGTBI, persones grans i dones en taxes més altes. Per això, el document demana que aquests sistemes estiguin sempre sota supervisió humana –que haurà de prendre la decisió final– i sotmesos a una estricta regulació legal per prevenir la discriminació i per garantir que es respectin els drets fonamentals quan s’utilitzen sistemes d’identificació basats en IA.
Per aquest motiu, la resolució del parlament també demana la prohibició que la intel·ligència artificial ajudi les decisions judicials, un altre aspecte molt controvertit en què ja s’ha aplicat l’automatització, amb el risc que se cimentin i s’ampliïn els biaixos en els sistemes de justícia penal.
D’aquesta manera, els diputats reconeixen que les tecnologies de vigilància que utilitzen IA tenen enormes implicacions per als drets i llibertats fonamentals i també per a la privacitat dels ciutadans, i deixen clar que el reconeixement de persones només s’hauria d’utilitzar en investigacions criminals o quan se sospiti d’un crim.
De fet, l’abril d’aquest any l’executiu de la UE va presentar
La Comissió ja va presentar un projecte de llei a l’abril, però el Parlament creu que no n’hi ha prou
un projecte de llei per regular els usos considerats d’alt risc d’aquesta tecnologia, que incloïa la prohibició de la puntuació social i també de l’ús de vigilància biomètrica en públic.
Tot i això, tant organitzacions de la societat civil com la Junta Europea de Protecció de Dades i el Supervisor Europeu de Protecció de Dades i diversos eurodiputats ja van dir que la proposta de la Comissió no anava prou lluny.c