La Vanguardia (Català-1ª edició)
“Els robots assassins poden prendre la decisió de matar”
Tinc 36 anys. De Nova Zelanda, visc a Londres. Solter. Llicenciat en Ciències Polítiques. He creat Article 36, oenagé per escrutar el desenvolupament i ús de les armes. El contracte social entre individu i Estat s’està trencant per la influència dels pode
Robots assassins, ciència-ficció o realitat? Si continuem amb el desenvolupament militar i tecnològic actual, tindrem robots assassins en acció d’aquí a deu anys. No seran necessàriament humanoides, però tindran autonomia, sense control humà, per prendre la decisió de matar.
Fa un parell de mesos hi va haver una reunió sobre aquesta qüestió a l’ONU. Sí, i al desembre els estats membres decidiran els passos a seguir. Nosaltres volem aconseguir un tractat que els prohibeixi.
Compten amb més de 17.000 firmes de científics, el primer Stephen Hawking. I amb 3.000 especialistes en robòtica, a més de líders en drets humans i enginyers. Però els defensors els justifiquen argüint que hi ha menys riscos per a les nostres forces armades, cosa que multiplicaria els conflictes.
Però si en la majoria de conflictes els que moren són civils! És veritat, i sovint sense conseqüències, ningú no es fa responsable d’aquestes morts, gairebé no hi ha investigacions internacionals. Abans que tinguem els robots assassins actuant, cal discutir-ne.
En sabem poc, d’aquest tema. Els països que els estan desenvolupant ho fan sense fer soroll. Els EUA, la Xina, Rússia, Israel i el Regne Unit tenen programes molt avançats sobre l’autonomia al camp de batalla. Cal més transparència i límits. Fa deu anys ni sabíem que existien els drons i de sobte són a tot arreu (l’Afganistan, el Iemen, Somàlia, Palestina...), però en el seu cas és una persona la que dóna l’ordre de disparar.
És possible aturar la fabricació de robots assassins? Quan lluitàvem per un tractat que prohibís les mines antipersones i les bombes de raïm ningú no ho creia possible, i estan prohibides.
S’ha arribat a prohibir la fabricació d’armes abans que es desenvolupin? Sí, el làser per encegar presoners no s’ha arribat a fabricar. N’és un bon precedent. A una empresa d’armament no li interessa anar contra un dels seus millors clients: l’ONU.
Aquests terminator són molt més eficaços i barats que un soldat. I tant. No necessiten menjar ni dormir, es poden fer tan petits com vulguis i introduir-se en qualsevol lloc. Hem de debatre en quin món volem viure, és una qüestió moral. Donarem el poder a les màquines perquè determinin a qui Jo mataran tampoc. i quan? Jo no vull aquest món. Matar algú és una de les decisions més profundes i no hauria d’existir, però si algú pren la decisió, que sigui un humà. Els mateixos especialistes en intel·ligència artificial volen posar-ne límits.
Quin interès hi ha darrere? Molts militars estan d’acord amb nosaltres, però l’instint de la confluència d’interessos militars i de la tecnologia industrial és aprofitar l’oportunitat sense pensar en les conseqüències.
...Es la història de les armes nuclears. Necessitem una discussió profunda a cada país abans que sigui tard.
Com jutjar-los pels seus crims? El dret internacional s’aplica a éssers humans, no a màquines. En teoria, els que decideixen matar s’enfronten a judicis, i això no es pot fer amb una computadora que pren directament les decisions. Són armes relativament barates. Seria possible produir drons autònoms petits i barats, hi ha la tecnologia per fer-ho. I podrien caure en mans de grups terroristes. En canvi, per fabricar una bomba atòmica cal urani enriquit. Una vegada al mercat, aquests robots assassins són molt fàcils de reprogramar.
Podran buscar una persona i matar-la? Sí, i fer neteges ètniques. Són ideals per cometre assassinats, crims selectius, desestabilitzar nacions, sotmetre poblacions.
És el que hem fet tota la vida. ...Però no s’ha de facilitar. Fins ara hem parlat de situacions militars, però aquesta classe d’armes també les podria utilitzar la policia de cada país. Imagini una situació de protesta, vagues com ara la francesa, en què la gent s’enfronta a policies entrenats per gestionar situacions difícils: tenen la possibilitat de parlar i provar de calmar les coses, però un robot no té capacitats com la compassió, el discerniment... Ja no s’indigna ningú perquè es bombardegin hospitals. No podem permetre que amari en nosaltres el sentiment d’inevitabilitat. Nosaltres fem el món on vivim.
Cada vegada estem més vigilats? Les càmeres, el big data, ens donaran problemes. El perill és deixar de ser tractats com a éssers humans individuals, convertir-nos en seqüències binàries. Cal humanitzar la violència i la guerra, perquè la humanitat és un fre davant les atrocitats. La intel·ligència artificial inundarà les nostres vides. Sí, i hem de tenir una conversa internacional sobre els seus límits, i un de fonamental és no utilitzar-la per matar-nos. Hem de revisar els nostres valors patriarcals, molt agressius, violents i negatius.