LA NACION

Los di­le­mas que plan­tea la tec­no­lo­gía exi­gen un de­ba­te abier­to

La in­te­li­gen­cia ar­ti­fi­cial o la ma­ni­pu­la­ción ge­né­ti­ca re­cla­man una dis­cu­sión pro­fun­da so­bre sus usos y lí­mi­tes éti­cos

- Iván Pe­tre­lla In­ves­ti­ga­dor del Ed­mund J. Sa­fra Cen­tro de Éti­ca y el Berk­man Klein Cen­tro de In­ter­net y So­cie­dad de la Uni­ver­si­dad de Har­vard Tech Trends · Tech · Science · Business Trends · Business · Como · Claude Elwood Shannon · Una · Chile · New York University · York · London · Amazon · Global 500 · Este · France · United States of America · China · Emmanuel Macron · Facebook · Google

La tec­no­lo­gía mol­dea lo que so­mos y có­mo nos re­la­cio­na­mos con los de­más. Co­mo di­ce Shan­non Va­llor en

La tec­no­lo­gía y las vir­tu­des. Una guía fi­lo­só­fi­ca pa­ra un futuro que va­le la

pe­na desear, “la in­ven­ción del ar­co y la fle­cha nos dio la po­si­bi­li­dad de ma­tar a un ani­mal des­de una dis­tan­cia se­gu­ra; o ha­cer lo mis­mo con un ri­val humano, una nue­va po­si­bi­li­dad que cam­bió el pai­sa­je so­cial y mo­ral”. Los cambios tec­no­ló­gi­cos son par­te cons­ti­tu­ti­va del an­da­mia­je de la so­cie­dad. Hoy, con la in­te­li­gen­cia ar­ti­fi­cial, la bio­tec­no­lo­gía y la edi­ción ge­né­ti­ca es­ta­mos en el um­bral de desa­rro­llar nue­vas for­mas de mo­di­fi­car no so­lo nues­tro mun­do sino tam­bién de trans­for­mar­nos a no­so­tros mis­mos; es­ta­mos an­te ca­pa­ci­da­des que una dé­ca­da atrás hu­bie­ran pa­re­ci­do de cien­cia fic­ción.

Sin em­bar­go, no hay con­sen­so so­bre si el im­pac­to de las nue­vas tec­no­lo­gías au­gu­ra un me­jor futuro. Los “tec­noop­ti­mis­tas” sos­tie­nen que es­ta­mos co­men­zan­do una nue­va era en la que la en­fer­me­dad y has­ta la mis­ma muer­te se­rán de­rro­ta­das. Los “tec­no­pe­si­mis­tas”, en cam­bio, te­men que estemos desatan­do fuer­zas que nos lle­va­rán a la des­truc­ción. La in­te­li­gen­cia ar­ti­fi­cial plan­tea la pers­pec­ti­va tan­to de un au­men­to es­pec­ta­cu­lar de la pro­duc­ti­vi­dad co­mo de pér­di­das ma­si­vas de pues­tos de tra­ba­jo; la in­ge­nie­ría ge­né­ti­ca pue­de con­ce­der­nos la ca­pa­ci­dad de cu­rar en­fer­me­da­des, pe­ro tam­bién de lle­var a la ex­tin­ción a es­pe­cies en­te­ras o crear híbridos humano-ani­ma­les; la neu­ro­cien­cia pro­me­te un au­men­to de nues­tras ca­pa­ci­da­des ce­re­bra­les, pe­ro tam­bién preo­cu­pa­cio­nes por la pér­di­da de nues­tra pri­va­ci­dad men­tal, con el ries­go de que nues­tras men­tes que­den co­mo ven­ta­nas abier­tas a la ma­ni­pu­la­ción por par­te de cor­po­ra­cio­nes y go­bier­nos.

Lo que real­men­te im­por­ta hoy no es tan­to los po­si­bles es­ce­na­rios le­ja­nos sino quién lle­ga a ana­li­zar el pre­sen­te. Co­mo es­cri­be la fi­ló­so­fa de la cien­cia Shei­la Ja­sa­noff en La éti­ca de la in­ven­ción. La tec­no­lo­gía y el futuro humano: “¿Quién ima­gi­na el futuro?” Lo que es­tá cla­ro es que los di­le­mas plan­tea­dos por las nue­vas tec­no­lo­gías no pue­den ser re­suel­tos por un aná­li­sis téc­ni­co o den­tro del mar­co de las cien­cias du­ras. Es­tos di­le­mas tie­nen que ver con nues­tra com­pren­sión so­bre de quié­nes so­mos, quié­nes que­re­mos ser y a qué de­be­mos as­pi­rar; se tra­ta de pen­sar los va­lo­res que desea­mos pa­ra la hu­ma­ni­dad. La in­no­va­ción tec­no­ló­gi­ca plan­tea di­le­mas con enor­mes im­pli­ca­cio­nes pa­ra el futuro de la vi­da y pa­ra la for­ma en que nos or­ga­ni­za­mos co­mo co­mu­ni­dad, pa­ra nues­tras eco­no­mías, nues­tra de­mo­cra­cia, pa­ra to­da nues­tra vi­da. Por lo tan­to, es­tas cues­tio­nes de­ben ser dis­cu­ti­das hoy en en la me­sa más am­plia po­si­ble.

Una res­pues­ta a es­tos desafíos éti­cos es pre­ci­sa­men­te la de or­ga­ni­zar y fo­men­tar esa dis­cu­sión. Ke­vin Es­velt, bió­lo­go y di­rec­tor del gru­po de tra­ba­jo “Es­cul­pir la evo­lu­ción”, del Ins­ti­tu­to Tec­no­ló­gi­co de Mas­sa­chu­setts, sir­ve de ejem­plo. Es­velt pro­po­ne erra­di­car la ma­la­ria o la en­fer­me­dad de Ly­me a tra­vés de la edi­ción ge­né­ti­ca di­ri­gi­da, que nos otor­ga el po­der ca­si di­vino de cam­biar el cur­so de la evo­lu­ción. Pa­ra erra­di­car la ma­la­ria se mo­di­fi­ca el ADN de los mos­qui­tos, de ma­ne­ra de blo­quear la trans­mi­sión de la en­fer­me­dad. El in­sec­to se reproduce lle­van­do la mo­di­fi­ca­ción ge­né­ti­ca a las si­guien­tes ge­ne­ra­cio­nes y even­tual­men­te to­dos la po­seen. El desen­la­ce es re­vo­lu­cio­na­rio: no hi­zo falta des­cu­brir una cu­ra pa­ra la ma­la­ria, ya que no que­dan mos­qui­tos por­ta­do­res de la en­fer­me­dad. “Muer­to el pe­rro, se aca­bó la ra­bia”, co­mo di­ce el re­frán po­pu­lar, pe­ro sin te­ner que ma­tar a to­dos los mos­qui­tos. Tan in­tere­san­te co­mo el uso de la tec­no­lo­gía, sin em­bar­go, es el én­fa­sis que Es­velt po­ne en la ne­ce­si­dad de un diá­lo­go fran­co y trans­pa­ren­te con las co­mu­ni­da­des don­de se desa­rro­lla­rían las in­ter­ven­cio­nes, ya que al mo­di­fi­car un mos­qui­to tam­bién pue­de mo­di­fi­car­se un eco­sis­te­ma. Un ex­pe­ri­men­to cu­yo re­sul­ta­do es cam­biar el cur­so de la evo­lu­ción de una es­pe­cie y del me­dio am­bien­te ne­ce­sa­ria­men­te de­be es­tar abier­to al escrutinio pú­bli­co y al de­ba­te en­tre to­dos los in­tere­sa­dos.

Otra res­pues­ta son las sal­va­guar­dias es­cri­tas con­tra el po­si­ble abu­so de la nue­va tec­no­lo­gía. El fi­ló­so­fo Lu­ciano Flo­ri­di, en­tre otros, ha tra­ta­do de ela­bo­rar di­rec­tri­ces éti­cas pa­ra el desa­rro­llo y el uso ade­cua­do de la in­te­li­gen­cia ar­ti­fi­cial. El neu­ro­bió­lo­go Ra­fael Yus­te es qui­zá quien en­ca­be­za la ini­cia­ti­va más in­tere­san­te pa­ra pro­te­ger­nos de la uti­li­za­ción in­de­bi­da de re­cien­tes avan­ces tec­no­ló­gi­cos. Pro­po­ne in­cor­po­rar los de­re­chos neu­ro­na­les a la De­cla­ra­ción Uni­ver­sal de De­re­chos Hu­ma­nos: es de­cir, el de­re­cho a la pri­va­ci­dad men­tal (im­pe­dir el uso de la ac­ti­vi­dad de los da­tos men­ta­les pa­ra la ac­ti­vi­dad co­mer­cial); el de­re­cho a la iden­ti­dad per­so­nal (que po­dría per­der­se en fu­tu­ras in­ter­fa­ces mul­ti­men­te o in­ter­fa­ces men­te-dis­po­si­ti­vos); el de­re­cho al li­bre al­be­drío (pro­tec­ción con­tra la ma­ni­pu­la­ción de nues­tras men­tes a tra­vés de las nue­vas tec­no­lo­gías); el de­re­cho a la mejora vía in­ter­ven­cio­nes tec­no­ló­gi­cas (pa­ra que no que­de en manos so­lo de quie­nes po­drían pa­gar) y el de­re­cho a ser pro­te­gi­do con­tra el ses­go al­go­rít­mi­co. Yus­te ha di­ri­gi­do de­ba­tes en di­fe­ren­tes paí­ses so­bre la po­si­bi­li­dad de in­cluir es­tos de­re­chos en sus cons­ti­tu­cio­nes, y Chi­le es uno de los paí­ses que más ha avan­za­do en es­ta dis­cu­sión.

El ar­te y el di­se­ño tam­bién son vehícu­los pa­ra la to­ma de con­cien­cia so­bre el im­pac­to del cam­bio tec­no­ló­gi­co. El año pa­sa­do, Ka­te Craw­ford, la fundadora del AI Now Ins­ti­tu­te de

la Uni­ver­si­dad de Nue­va York, y Vla­dan Jo­ler, re­ci­bie­ron el pre­mio Di­se­ño del año de par­te del Mu­seo del Di­se­ño de Lon­dres por Ana­to­mía de un sis­te­ma de in­te­li­gen­cia ar­ti­fi­cial.

Es­ta obra es un enor­me ma­pa vi­sual –ima­gí­nen­se un plano ar­qui­tec­tó­ni­co– don­de se ilus­tran de for­ma in­ter­co­nec­ta­da to­dos los in­su­mos pa­ra la fa­bri­ca­ción del asis­ten­te vir­tual de Ama­zon, Ale­xa. Ahí po­de­mos ver la ex­trac­ción de mi­ne­ra­les y el im­pac­to am­bien­tal de la mi­ne­ría, el con­su­mo de ener­gía, la mano de obra ca­li­fi­ca­da y la mano de obra ex­plo­ta­da, la re­co­pi­la­ción de da­tos de nues­tra vi­da pri­va­da y el al­can­ce glo­bal de la in­fra­es­truc­tu­ra ne­ce­sa­rios pa­ra su cons­truc­ción y fun­cio­na­mien­to. Es una obra que re­ve­la el pre­cio so­cial que se pa­ga por la co­mo­di­dad de un asis­ten­te vir­tual. Es­te es el ejem­plo más im­pac­tan­te den­tro del cre­cien­te con­jun­to de in­ves­ti­ga­cio­nes que se en­fo­can en la IA co­mo un sis­te­ma glo­bal de in­fra­es­truc­tu­ra cons­trui­do so­bre la ex­trac­ción mi­ne­ral y la mano de obra ex­plo­ta­da.

En lo que ata­ñe a los mo­de­los na­cio­na­les de desa­rro­llo des­de el Es­ta­do, Fran­cia bus­ca tra­zar un ca­mino al­ter­na­ti­vo al ac­tual do­mi­nio dispu­tado por Es­ta­dos Uni­dos y Chi­na. Pa­ra el go­bierno de Em­ma­nuel Ma­cron es im­pe­ra­ti­vo que una tec­no­lo­gía tan po­ten­cial­men­te dis­rup­ti­va no que­de en manos úni­ca­men­te de em­pre­sas pri­va­das co­mo Fa­ce­book, Goo­gle o Ama­zon (el mo­de­lo es­ta­dou­ni­den­se) ni de una dic­ta­du­ra uni­par­ti­da­ria (Chi­na). En cam­bio, el desa­rro­llo y el uso ade­cua­dos de la in­te­li­gen­cia ar­ti­fi­cial re­quie­ren un escrutinio de­mo­crá­ti­co. Por eso, Fran­cia in­ten­ta li­de­rar la dis­cu­sión so­bre sus re­per­cu­sio­nes so­cia­les, po­lí­ti­cas y éti­cas in­cor­po­ran­do a es­pe­cia­lis­tas de otras dis­ci­pli­nas –fi­lo­so­fía, so­cio­lo­gía, an­tro­po­lo­gía– pa­ra un de­ba­te más am­plio.

La in­ven­ción de la má­qui­na de va­por ayu­dó a lan­zar la re­vo­lu­ción in­dus­trial; la in­ven­ción de la im­pren­ta fue par­te in­trín­se­ca de la Re­for­ma Pro­tes­tan­te. No fue­ron so­lo avan­ces tec­no­ló­gi­cos. Co­mo el ar­co y la fle­cha, re­for­ma­ron la com­pren­sión de no­so­tros mis­mos y nues­tras re­la­cio­nes con los de­más, y re­con­fi­gu­ra­ron la so­cie­dad se­gún las nue­vas po­si­bi­li­da­des que abrie­ron. To­do in­di­ca que es­ta­mos en el um­bral de una nue­va era de cam­bio y es im­pe­ra­ti­vo que sea­mos par­te de es­ta con­ver­sa­ción.

 ?? Al­bert gea/reuters ?? Cla­ses vía zoom du­ran­te el con­fi­na­mien­to por Covid en Bar­ce­lo­na, en abril
Al­bert gea/reuters Cla­ses vía zoom du­ran­te el con­fi­na­mien­to por Covid en Bar­ce­lo­na, en abril

Newspapers in Spanish

Newspapers from Argentina