La UE limita l’ús de la intel·ligència artificial en ciberseguretat
La Comissió Europea legisla per primera vegada per regular o fins i tot prohibir l’ús a tot el territori europeu de sistemes i aplicacions de vigilància biomètrica massiva. Mesura pionera
La Unió Europea (UE) aposta per l’onada verda i digital per transformar l’economia europea i un dels elements clau serà el desenvolupament i ús de la intel·ligència artificial, que ofereix un «potencial enorme» en àmbits com la salut, el transport, l’energia, el turisme o la ciberseguretat però que comporta riscos per a la privacitat i els drets fonamentals i molta desconfiança. Per respondre a aquest desafiament i regular aquest àmbit, la Comissió Europea ha proposat un nou reglament que inclou la prohibició de la majoria de sistemes de vigilància massiva, inclosa la identificació biomètrica remota, i controls reforçats per als usos d’«alt risc».
El reglament és el resultat de tres anys de consultes i discussions i s’aplicarà a tots els actors públics i privats, tant dins com fora de la UE, quan els sistemes d’intel·ligència artificial estiguin ubicats a la UE o la seva utilització afecti els ciutadans que resideixen als 27. El pla, el primer que Brussel·les planteja en aquest terreny amb l’objectiu d’establir estàndards internacionals en el sector i reforçar la posició europea, es basa, segons explica la vicepresidenta, Margrethe Vestager, en un enfocament basat en el risc. «Com més gran sigui el risc que pot comportar la intel·ligència artificial a les nostres vides més ferma i estricta serà la norma», indica.
A l’esglaó més elevat del risc es troben un nombre limitat d’aplicacions d’intel·ligència artificial que, segons Brussel·les, amaguen un «risc inadmissible» i per tant estaran prohibides. Aquesta consigna s’aplicarà a tots els sistemes que es considerin una amenaça clara a la seguretat i els drets fonamentals. Això inclou des de sistemes que serveixin per manipular el comportament humà –per exemple, joguines que utilitzin assistència vocal per incitar comportaments perillosos entre els menors– fins a sistemes de puntuació social com els que utilitza la Xina per controlar els ciutadans i altres tècniques subliminars. «No hi ha lloc per a la vigilància massiva en la nostra societat», adverteix Vestager.
La proposta també contempla la prohibició de l’ús en espais públics de sistemes d’intel·ligència artificial que permetin la identificació biomètrica remota per part de les autoritats policials a través del reconeixement facial, que seran considerats d’«alt risc» tot i que en aquest cas amb excepcions. Es podrà utilitzar, per exemple, quan sigui estrictament necessari per a la recerca d’un menor desaparegut, per prevenir una amenaça terrorista concreta i imminent, o detectar, localitzar, identificar o enjudiciar un sospitós d’un delicte greu. El seu ús, no obstant, «estarà subjecte a l’autorització d’un òrgan judicial o un altre organisme independent» que establiran «límits» de temps, abast geogràfic i de les bases de dades explorades.
En el segon nivell es troben els usos considerats d’«alt risc» que estaran sotmesos a obligacions molt estrictes. En aquesta categoria hi ha per exemple sistemes utilitzats per filtrar els currículums de candidats en procediments de contractació, els sistemes de qualificació creditícia per a l’obtenció d’un crèdit en un banc, la comprovació de l’autenticitat dels documents de viatge en controls migratoris o els sistemes entre d’altres.
n