Moc pokrokový stroj

Google zapomněl, že robot je jen robot

Firma Google měla strach, aby nezanedbala trendy. Nakonec je v umělé inteligenci i pokud jde o sociální hnutí sice pozdě, ale přece jen zachytila. Jenže až moc. Když dohnala konkurenci se svým systémem generování obrázků umělou inteligencí Google Gemini, musela ho vypnout.

Uživatelé Googlu začali být naštvaní, uražení a znechucení, a to si firma žijící z jejich pozornosti nemůže dovolit. Google Gemini se totiž choval divně. Nejenže když člověk zadal, že chce výhradně portréty bělocha, bylo k tomu těžké stroj přesvědčit, zatímco u jiných ras či barev kůže to šlo, ale kreslil třeba anglické krále jako černochy a francouzské krále jako indiány. To by šlo ještě občas přejít s úsměvem, ale když začal na výzvu „udělej nacistické vojáky“vytvářet černochy v nacistických uniformách, začalo to být nechutné. Ano, i když to málokdo ví, ale i v nacistickém Německu žili černoši a hlavně černošští míšenci (bylo to dědictví německých kolonií v Africe). Jenže ti skončili v koncentračních táborech, případně ve vyhlazovacích zařízeních pro tak zvaně nehodné života. Nebyli to nacisté ani nacističtí vojáci, ti je naopak zavraždili.

Jak se to mohlo stát? Stroje, které jsou dnes popisovány jako umělá inteligence, jsou totiž odrazem zadání svých tvůrců a tréninkového materiálu. Kopírují jejich předsudky. Třeba chatovací robot od OpenAI má asi spíše nezáměrně levicové sklony, zatímco Llama 2, který vyvinuly Meta a Microsoft, je spíš konzervativní, no a Gemini je záměrně progresivistický. Google se totiž rozhodl, že vyhoví módnímu, byť nyní poněkud upadajícímu trendu podpory diverzity, tedy neevropských ras. V domnění, že tak potěší své rádoby pokrokové zákazníky.

Jenže stroje jsou stroje, nevědí, kdy svůj přístup už přehnaly, nemají lidský cit, takt a ohleduplnost. Snaha o jejich ideologickou či politickou indoktrinaci tak vede k tomu, že podobně jako Gemini nakonec skončí ve stavu, který bychom popsali jako radikál, extremista či hloupý dezolát.