Europoslanci dali pravidla užití AI včetně sledování lidí

Europoslanci včera schválili nová pravidla pro použití umělé inteligence (AI). Některé systémy chce Evropská unie zcela zakázat, další nástroje, například algoritmy na rozpoznávání obličejů ze záznamů digitálních kamer, mají podléhat silné regulaci.

Například Piráti s konečnou verzí Aktu o AI spokojeni nebyli, a proto hlasovali proti. Legislativa totiž podle nich právě plošné rozpoznávání obličejů legalizuje. Za pomoci AI a biometrických kamer, které umí podle obličejových rysů rozpoznat identitu člověka, lze šmírovat lidi. Podle pirátského europoslance Marcela Kolaji jde o velké zklamání a promarněnou příležitost jasně v celé Evropě odmítnout autoritářské praktiky, které známe z Číny či Ruska.

„Zákon o umělé inteligenci měl mimo jiné zakázat ty nejvíce nebezpečné způsoby využití a nastavit základní mantinely, za které technologii v zájmu lidských práv prostě pustit nemůžeme. Bohužel v případě biometrických kamer dělá pravý opak,“upozornil Kolaja.

„Programy využívající AI umí v reálném čase sledovat, kdo, kdy a kde s kým je. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít ,nesprávný‘ názor,“dodal.

Zákon o umělé inteligenci je dle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo EU. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Nová pravidla by měla zajistit, aby umělá inteligence byla bezpečná, respektovala základní práva EU a podporovala inovace. Pro novinku hlasovalo 523 europoslanců, proti jich bylo 46 a 49 se zdrželo.

Asi největší spory se v Evropském parlamentu vedly právě ohledně používání AI k biometrickému sledování v reálném čase. To bylo v původní pozici Evropského parlamentu zcela zakázáno, při vyjednávání s členskými státy se ale do návrhu opět dostalo.

Text nařízení, o kterém se včera hlasovalo, je dojednaným kompromisem mezi vyjednavači Evropského parlamentu, Evropskou komisí a belgickým předsednictvím v Radě EU, které zastupuje jednotlivé členské státy. Mnozí europoslanci regule ocenili.

„Podařilo se dosáhnout ochrany základních práv občanů, ale zároveň necháváme prostor pro inovace,“uvedla například dánská europoslankyně Karen Melchiorová z liberální frakce Renew.

Podle české europoslankyně Dity Charanzové z frakce Renew bychom se neměli vzdávat AI z důvodu strachu. „U každé inovace existují rizika,“uvedla Charanzová v úterní rozpravě.

„Programy využívající AI umí v reálném čase sledovat, kdo, kdy a kde s kým je. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí.“