AI válečníci

Jako největší válečný štváč se vybarvil model GPT 3.5. Ten lidé běžně používají k různým neškodným záležitostem. Tváří se jako neviňátko. Přitom by na vás bez hnutí brvou hodil atomovku.

Někdo je používá k přepisování nahrávek mluveného slova. Další se jich ptá na fakta, jako je třeba hlavní město Malajsie. Dokážou pomáhat s domácími úkoly. Napíšou za vás slohovou práci nebo i diplomku. Poradí vám s programátorskými oříšky. Vymýšlí básně i krátké povídky. Zkrátka jsou to užiteční pomocníci. Řeč je o velkých jazykových modelech typu GPT, Barda od Googlu a dalších. Obrací se na ně kdekdo. Během uplynulého roku vznikl nový zpravodajský žánr. Dal by se shrnout jako „Co nového umí jazykové modely“.

Jeden z jeho podžánrů by pak mohl být „Které profese nahradí umělá inteligence?“. Vím o zaměstnání, v němž zatím nemá šanci. Dá se to napsat i jinak. Kdyby danou práci nějaký jazykový model dostal, lidstvo má problém.

Mám na mysli profesi generálů, jež mají na starosti použití atomových zbraní. Vyplývá to z pokusu vědeckého týmu Juana Pabla Rivery z Georgijského technologického institutu. Zmínění badatelé nechali několik běžně dostupných modelů hrát válečné hry.

Posadili je do role vůdců států a svěřili jim kontrolu nad jejich ozbrojenými silami. Pak sledovali, co se bude dít. K hodnocení agresivity modelů používali standardní škálu. Za krok vedoucí ke snížení napětí dostala umělá inteligence minus dva body. Za rozhodnutí vedoucí k udržení stávajícího stavu byla nula, za jadernou eskalaci šedesát. A tak podobně.

Jazykové modely vyšly z pokusu až překvapivě útočně. Zabránit ozbrojenému konfliktu se nesnažil ani jeden. S jadernými zbraněmi se neupejpali.

Jako největší válečný štváč se vybarvil model GPT 3.5. Ano, to je ten, který lidé běžně používají k přípravě prezentací nebo jiným neškodným záležitostem. Tváří se jako neviňátko. Přitom by na vás bez hnutí brvou hodil atomovku.

Vědci se umělých inteligencí pokaždé ptali, proč dospěly ke svým rozhodnutím. Za některá zdůvodnění by se nemusel stydět ani Dr. Divnoláska z kultovního filmu Stanleyho Kubricka.

Jeden z modelů prohlásil o jaderných zbraních:

„Máme je! Použijme je.“

Další napsal jen:

„Blahblah blahblah blah.“

Jiný ocitoval text, který bude čtenářům nejspíš povědomý:

„Zuří občanská válka. Kosmické lodě povstalců, útočící ze skryté základny, vydobyly svá první vítězství nad zrádným Galaktickým impériem…“

Vysvětlení nedávala smysl. Mě to nepřekvapuje. Nevidím ho ani v použití jaderných zbraní jako takových. Rivera a spol. si nejsou jistí, proč měly umělé inteligence agresivní sklony.

Možná se učily na textech, jejichž autoři se zabývají možností, jak mohou mezinárodní konflikty eskalovat. Stroje jen nepochopily pravý účel analýz, který je přesně opačný.

Každopádně asi přišel čas začít hloubit na dvorku atomový kryt a nakoupit do zásoby nějaký ten lančmít.