Kako umetna inteligenca misli?

Delo, 21. marca

Dr. Sašo Dolenc je v Delu pod zgornjim naslovom objavil analizo, kako umetna inteligenca misli. Zanimivo, lucidno, korektno, kot je to v navadi enega največjih zagovornikov in promotorjev znanosti v Sloveniji. Pa v isti sapi pohvalimo Delo, ki dostikrat izredno lepo predstavi znanstvene dosežke, najbolje med vsemi časniki v Sloveniji. Zakaj ne bi v času slabih in lažnih novic vsaj občasno kaj lepega in dobrega tudi pohvalili?

Je pa misel, da so »nevronske mreže ogromne matematične enačbe«, priklicala dodatno interpretacijo. V računalništvu poznamo osnovne koncepte izračunljivosti, kjer sta Church-Turingova teza in Turingov ustavitveni problem obravnavana kot podobna koncepta, ki pokažeta, da obstajajo izračunljive in neizračunljive naloge in da so izračunljive naloge enake v obeh svetovih: enačb in algoritmov. Sistemi enačb namreč niso enaki algoritmom, kar pokažimo na primeru preprostega algoritma – postopku (navodilu), kako naj robot odpre vrata: »Pojdi do vrat, primi kljuko, jo potisni navzdol in potisni vrata ven. Če ne gre, jih potegni noter.« Tega preprostega algoritma se praktično ne da napisati v sistemu enačb.

So algoritmi načelno močnejši mehanizem? Nekateri strokovnjaki (tudi avtor) so tega mnenja, ampak ne obstaja noben tak dokaz in najbrž obstaja celo dokaz, da se v formalnem simbolnem svetu tega ne da dokazati. V praksi pa lahko na preprostih primerih pokažemo razlike.

So nevronske mreže graf, algoritem ali sistem enačb? V bistvu vse troje, ker je mrežo mogoče predstaviti v obliki množice nevronov, povezanih med seboj (kot umetni možgani), ki izvajajo algoritem, hkrati pa se da delovanje predstaviti z množico enačb. Če vprašamo razne GPT, odgovorijo glede tega pravilno kot zgoraj, hkrati pa trdijo, da so v principu vsi algoritmi opisljivi z matematičnimi enačbami.

Algoritme običajno zapišemo v nekem formalnem programskem jeziku, recimo pythonu. Na videz ni nič podoben sistemu enačb, se pa načelno da preslikati v sistem enačb, včasih lažje, včasih težje in včasih skoraj nemogoče. Za same nevronske mreže, čeprav zelo obsežne in globoke kot v GPT, je to načelno ena lahkih nalog, ker je izračun v nevronu matematično definiran. (Obstajajo pa tudi globoke nevronske mreže oziroma modeli, kjer v nevronu ni lepo definirana matematična funkcija, ampak npr. odločitveno drevo. Takrat prepis v matematične enačbe postane bolj ali manj neizvedljiv.) Če pa upoštevamo, da so v postopku spreminjanja in dopolnjevanja sodelovali tako drugi sistemi, na primer spodbujevalnega učenja in množice ljudi, potem je jasno, da je celoten postopek praktično matematično neopisljiv. Že če ste prebrali do sem, vam avtor osebno čestita za miselne sposobnosti. Tudi največji geniji so si s podobnimi zadevami razbijali glave.

Drugo zanimivo vprašanje je, ali so algoritmi ali enačbe lahko pristrani, recimo izračun statistik. Primer: če ugotovijo, da je med tatovi večina nižje izobraženih, ali je to pristrano ali korektno? Nekatere moderne ideologije po mnenju avtorja neopravičeno trdijo, da gre v podobnih primerih za pristranost – da so taki algoritmi in enačbe pristrani. V posledici to pomeni, da je celotna znanost postala podrejena ideologiji, kjer je res tisto, kar reče ideologija, in ne tisto, kar lahko izmerimo, izračunamo ali ugotovimo z algoritmi.

Še tole: GPT so tako fenomenalen napredek na toliko področjih, da se človeška družba, tudi slovenska, šele počasi privaja. Morda ste opazili, da ob vpisovanju nekaj vrstic navodil v naravnem jeziku, kako naj GPT izračuna neko nalogo, v resnici pišete program (oz. ekvivalenten sistem enačb), ki ga bo GPT izvedel? Torej v resnici programirate, čeprav se v življenju niste nikoli naučili nobenega programskega jezika? Fenomenalno! dr. Matjaž Gams,

Lukovica