Umelá inteligencia nie je objektívna, ide o mýtus
V rámci AI sa často porušujú ľudské práva, hovorí pre HN vedúca výskumníčka na Univerzite v Cambridgei Eleanor Drage.
Elon Musk v minulosti uviedol, že umelá inteligencia, skrátene AI, predstavuje riziko a môže viesť až k zničeniu civilizácie. Čo si o tom myslíte?
Elon Musk má veľmi blízko k niektorým z týchto technológií, o ktorých hovorí, takže nepochybne existuje existenčné riziko. A najmä u nás v Cambridgei je veľa ľudí, ktorí na tom pracujú. Odkiaľ však toto riziko pochádza? Nepochádza zo samotných strojov. Bude to kvôli monopolizácii moci vo veľkých technológiách, monopolizácii výpočtovej sily, boju o zdroje, ktorý sa teraz, keď USA zakázali Číne dovážať svoje mikročipy, stáva geopolitickým. Tieto druhy konfliktov budú výsledkom existenčnej krízy, ak nejaká nastane.
Ako sa to dá zmeniť?
Tým, že zabezpečíme väčšiu rozmanitosť vo veľkých technologických firmách a viac hlasov vo veľkých technologických firmách, že budú lepšie odbory a budeme mať právnikov, ktorí sa budú zastávať etických inžinierov, ktorí chcú prehovoriť. Tým, že budeme mať naozaj silnú občiansku spoločnosť, ktorá by mohla hnať firmy k zodpovednosti. Naozaj dobrý aktivizmus, iné druhy vzdelávania budú spôsobom, ako v budúcnosti vyriešiť tieto existenčné obavy. A môže byť naozaj neužitočné, že veľké osobnosti ako Elon Musk hovoria: Aha, tak všetci zomrieme. Nehovorí totiž, čo musíme urobiť, aby sme tento problém vyriešili. A vyzerá to tak, že riešenie je v rukách tých istých ľudí, ktorí tento problém vytvorili. Teda v rukách veľkých technologických spoločností, ktorým sme dôverovali.
Čo sa týka vyvracania mýtov o AI, ktoré sú najväčšie?
Najväčším mýtom je, že umelá inteligencia je neutrálna a objektívna. A ľudstvo už mnoho stoviek rokov vkladá do strojov vieru, že môžu byť lepšou verziou ľudstva, pretože dokážu byť objektívne tam, kde sú ľudia len subjektívni a zaujatí. To nás však odvádza od toho, aké sú tieto technológie ľudské. Technológiu tvoria ľudské údaje. Je naprogramovaná inžiniermi, ktorí sú ľudia. A ľudia, ktorí anotujú alebo označujú údaje, sú tiež ľudia, ktorí robia subjektívne rozhodnutia o tom, čo obrázok hovorí napríklad o posteli, tvári alebo zvierati. A všetky technológie nasadzujú spoločnosti, ktoré sú samy osebe politickými subjektmi, ktoré majú konkrétne stimuly a ciele. Snažíme sa teda ľuďom vysvetliť, že umelá inteligencia nie je objektívna ani neutrálna, že keď sa pozerá na tvár a rozpoznávanie tváre napríklad v mene polície, robí politické rozhodnutia o tom, ako vyzerá nebezpečná tvár pri usvedčovaní z trestnej činnosti. A to je skutočný problém, je to zneužívanie alebo nepochopenie toho, čo umelá inteligencia robí.
Mnohí ľudia sa obávajú, že kvôli umelej inteligencii prídu o prácu. Je to skutočná hrozba?
Pracovné trendy sa budú meniť tak, že si to ani nevieme predstaviť. Ako sme si napríklad mohli predstaviť Uber alebo Etsy predtým, ako sa objavili? Tieto veci naozaj neboli na obzore väčšiny ľudí. A, samozrejme, tieto nové odvetvia sa objavili a sú veľmi problematické. Preto vodiči Uberu nemajú základné práva na zamestnanie. Takže áno, existujú reálne hrozby straty zamestnania, ale aj väčšie a menšie hrozby.
Ako hodnotíte vplyv AI na vedu?
Som nadšená z jej vplyvu na vedy o živej prírode. V Cambridgei sa dejú mimoriadne zaujímavé veci v oblasti strojového učenia, ktoré sa používa na detekciu rakoviny, ale aj na podporu lekárskeho výskumu všetkého druhu. Samozrejme, s vedeckými projektmi Alphafold a Deepminds to vyzeralo naozaj nádejne a v istom zmysle som dosť skľúčená z toho, že sa Deepmind odkláňa od vied o živote a zameriava sa na iné, trochu špekulatívnejšie podniky. Myslím si, že na umelej inteligencii v medicíne je skvelé to, že medicína už má naozaj silnú reguláciu a lekári sú veľmi dobre kvalifikovaní vo svojich odboroch, aby mohli používať rôzne nástroje na interpretáciu vecí. Aj napriek tomu, že existujú obrovské riziká, že sa na umelú inteligenciu bude príliš spoliehať, myslím si, že keď lekári budú správne používať niektoré inovácie a zavádzať ich bezpečne a pomaly, môžu mať vzrušujúce dôsledky pre lekársku starostlivosť, objavovanie liekov a liečbu.
A ďalšie oblasti, kde by sa AI dala využiť?
Už teraz vidíme naozaj veľký nárast v oblasti marketingu a komunikácie, v pracovných pozíciách, ktoré sa spoliehajú na veľké množstvo návrhov blogov alebo e-mailov určených pre verejnosť. Pred dvoma týždňami som sa vo Financial Times rozprávala s vedúcim oddelenia pre rozmanitosť a inklúziu, ktoré využíva nástroje umelej inteligencie na odstraňovanie predsudkov pri používaní jazyka. Je pekné, že umelú inteligenciu používame aj na to, aby poukázala na naše nedostatky. A čo sa týka tvorby obsahu, je to úžasné pre študentov, ktorí majú angličtinu ako druhý jazyk. Myslím si, že keď budeme schopní GPT používať spôsobom, ktorý skutočne rozvíja jazyk, a nielen nahrádza písanie, potom to bude naozaj užitočné pre ľudí na celom svete, aby boli schopní konkurovať na trhu práce.
Ako zasahuje umelá inteligencia do ľudských práv?
Je to veľká otázka. Prišla som na to spolu s Organizáciou Spojených národov a jej digitálnou skupinou DSEG. Trochu sa zaoberáme umelou inteligenciou používanou v humanitárnom kontexte a tým, či je v súlade s právami migrantov. Pretože teraz sa AI používa v utečeneckých táboroch na monitorovanie toho, kto im už zobral zásoby potravín. A v niektorých ohľadoch bola navrhnutá tak, aby bola efektívnejšia a aby sa zabezpečilo, že ľudia nebudú brať tovar dvakrát. Zároveň je však mimoriadne invazívna. Hrozí, že sa budú zhromažďovať údaje o ľuďoch proti ich vôli.
A práve tento nedostatok súhlasu vidíme všade. Myslím si, že v súčasnosti dochádza k mnohým porušeniam ľudských práv.
Čo s tým?
Dúfam, že to zmení zákon EÚ o umelej inteligencii, keď vstúpi do platnosti, pretože so skupinou z Cambridgea vytvárame online nástroj, ktorý pomôže spoločnostiam splniť povinnosti EÚ, ale ísť aj ďalej a byť skutočne obohatený o feministické a antirasistické princípy, aby sme mohli veľmi vágne, často dosť hmlisté predstavy EÚ o tom, čo znamená vytvoriť demokratický nástroj, skutočne uviesť do života a konkretizovať ich pre spoločnosti.
Pracovné trendy sa kvôli umelej inteligencii budú meniť tak, že si to ani nevieme predstaviť.
Ako ďaleko s týmto online nástrojom ste?
Sme v polovici cesty, takže to spustíme okolo júna 2024.
Aké sú dôsledky zásahov AI do občianskych slobôd a protestov?