Dom­me­dag snart?

Dra­e­ber­ro­bot­ter. Al­le ta­ler om kun­stig in­tel­li­gens, men in­gen om kun­stigt stof­skif­te.

Weekendavisen - - Opinion - Af FINN VERNER JEN­SEN

I1983 traf jeg en ki­ne­sisk pro­fes­sor, der for­ske­de i gen­ma­ni­pu­la­tion. Jeg spurg­te ham, hvor­dan hans samvit­tig­hed hav­de det med at ud­vik­le me­to­der, der kun­ne bli­ve ka­ta­stro­fa­le for men­ne­ske­he­den, ja alt liv på Jor­den. Han blev ty­de­lig­vis ube­ha­ge­ligt be­rørt. Når jeg nu om da­ge mø­der folk, der får at vi­de, at jeg for­sker i kun­stig in­tel­li­gens, får jeg det sam­me spørgs­mål, og jeg bli­ver til­sva­ren­de ube­ha­ge­ligt be­rørt. Det kra­e­ver et me­get langt svar, og hin ki­ne­ser hav­de nok et til­sva­ren­de langt svar.

Ud­over den sta­digt til­ba­ge­ven­den­de pro­fe­ti om an­droi­den, det kun­sti­ge men­ne­ske, har de se­ne­re land­vin­din­ger in­den for ma­ski­nin­tel­li­gens frem­bragt en ny dis­kurs. Nu hand­ler den om den så­kald­te singu­la­ri­tet i en ik­ke alt for fjern til­stand, hvor ro­bot­ter over­ta­ger Jor­den. De vil va­e­re så in­tel­li­gen­te, at de på al­le må­der kan ud­kon­kur­re­re men­ne­sket, og de kan selv ska­be sta­dig me­re in­tel­li­gen­te ro­bot­ter. I bed­ste fald bli­ver vi gjort til sla­ver, i va­er­ste fald bli­ver vi ud­ryd­det. Den­ne dy­sto­pi kra­e­ver et langt svar.

MED in­tel­li­gens for­står jeg men­tale pro­ces­ser, der gi­ver ev­ne til at op­fat­te, hu­ske, til­pas­se sig, ra­e­son­ne­re, ge­ne­ra­li­se­re, klas­si­fi­ce­re, fi­lo­so­fe­re, men og­så selv­for­stå­el­se, spi­ri­tu­a­li­tet og so­ci­al kom­pe­ten­ce. Kun­stig in­tel­li­gens, som jeg egent­lig fo­re­tra­ek­ker at be­na­ev­ne ma­ski­nin­tel­li­gens, er elek­tro­ni­ske pro­gram­mer, der af­spej­ler vis­se de­le af in­tel­li­gens.

Der er en år­hund­re­de lang tra­di­tion for at fan­ta­se­re om an­droi­der. Til hver en tid har for­ske­re in­den for ma­ski­nin­tel­li­gens be­dy­ret, at an­droi­der over­ho­ve­det ik­ke er på trap­per­ne. Man har hen­vist til, at en for­ud­sa­et­ning for at pro­gram­me­re in­tel­li­gens er, at man kan for­stå og be­skri­ve de men­tale pro­ces­ser, der lig­ger bag for ek­sem­pel be­her­skel­se af na­tur­ligt sprog el­ler gen­ken­del­se af men­ne­sker.

I de sid­ste tre år­ti­er har en helt ny ud­vik­ling fun­det sted. Ud­vik­lin­gen er bå­ret af den tek­ni­ske ud­vik­ling i com­pu­ter­kraft og op­byg­nin­gen af sto­re da­ta­ba­ser af log­ge­de da­ta af men­ne­ske­li­ge ak­ti­vi­te­ter. Sam­ti­dig er der sket sto­re frem­skridt in­den for ma­chine lear­ning. Com­pu­ter­sy­ste­mer­ne kan ved ana­ly­se af dis­se da­ta­ba­ser af­da­ek­ke in­di­vi­ders så­vel som po­pu­la­tio­ners hand­lings­møn­stre og pri­o­ri­te­ter. He­ri­gen­nem ud­vik­les au­to­no­me be­slut­nings­sy­ste­mer, der kan fo­re­ta­ge me­get in­tel­li­gen­te be­slut­nin­ger og hand­lin­ger. Det ga­el­der og­så for si­tu­a­tio­ner med stor usik­ker­hed. Det kan va­e­re ved me­di­cinsk be­hand­ling, hvor så­vel di­ag­no­se som ef­fekt af be­hand­ling er usik­ker. Syste­mer­ne kan så at si­ge ak­ku­mu­le­re men­ne­skers er­fa­rin­ger og la­e­re her­af som for­be­re­del­se til kom­men­de lig­nen­de si­tu­a­tio­ner. Det nye er, at den­ne la­e­ring ik­ke in­de­ba­e­rer, at der op­nås en for­stå­el­se af de bag­ved­lig­gen­de struk­tu­rer. Det er ik­ke kun men­ne­ske­li­ge er­fa­rin­ger, der ind­sam­les. Syste­mer­ne ind­sam­ler eg­ne er­fa­rin­ger, og ved så­kaldt re­in­for­ced lear­ning de­sig­ner og af­prø­ver sy­ste­met eks­pe­ri­men­ter, som det kan la­e­re af. Det er for ek­sem­pel så­dan de mo­der­ne skak- og go-spil­len­de pro­gram­mer er skabt. Sam­fund­s­in­sti­tu­tio­ner­ne bli­ver sta­dig me­re af­ha­en­gi­ge af så­dan­ne au­to­no­me sy­ste­mer, og da de tra­ef­fer be­slut­nin­ger uden men­ne­ske­lig ind­blan­ding, er der i sid­ste en­de in­gen, der er an­svar­lig, hvis no­get går gru­e­ligt galt. Over­våg­nings­sy­ste­mer slad­rer ublu om os, og au­to­no­me vå­ben til­in­tet­gør samvit­tig­heds­løst me­get an­det end an­dre au­to­no­me vå­ben. På in­ter­net­tet ser man og­så en be­kym­ren­de ud­vik­ling. Her kan de au­to­no­me agen­ter for­me­re sig gra­en­se­løst, mu­te­re og bli­ve sta­dig me­re in­tel­li­gen­te. Det er ik­ke van­ske­ligt at fo­re­stil­le sig en po­pu­la­tion af su­perin­tel­li­gen­te agen­ter, der kan ud­s­let­te al men­ne­ske­lig ak­ti­vi­tet på net­tet. Der er dog sta­dig lang vej til en elek­tro­nisk agent, der kan kom­mu­ni­ke­re med men­ne­sker på net­tet, så det er umu­ligt at af­slø­re den som kun­stig.

AGEN­TER på in­ter­net­tet er ik­ke an­droi­der, og de bli­ver det hel­ler ik­ke. De er lut­ter in­tel­li­gens uden for­bin­del­se til den ma­te­ri­el­le ver­den, og der­for mang­ler de grund­la­get for at op­byg­ge et fø­lel­ses­liv. Den helt grund­la­eg­gen­de livs­be­tin­gel­se hos al­le le­ven­de or­ga­nis­mer er ar­tens over­le­vel­se. Der­for er stof­skif­te og for­plant­ning grund­la­eg­gen­de ka­rak­te­ri­sti­ka ved alt liv. Hos al­le ar­ter kan man iagt­ta­ge, hvor­dan al­le ak­ti­vi­te­ter er sty­ret her­af. Det ga­el­der og­så for men­ne­sker. De af stof­skif­tet sty­re­de drif­ter, sult, tørst, frygt, smer­te, fryd ... er grund­la­get for alt fø­lel­ses­liv. De to san­ser, smag og lugt, er knyt­tet til stof­skif­tet og fø­lesan­sen er knyt­tet til over­le­vel­se og for­plant­ning. De sty­rer vo­re hand­lin­ger, og bort­set fra re­li­gi­øse fo­re­stil­lin­ger er der na­ep­pe no­gen men­ne­ske­lig fø­lel­se, hvis ba­sis ik­ke kan til­bage­fø­res til stof­skif­te og for­plant­ning.

Der er prin­ci­pi­elt to må­der at ind­la­eg­ge hand­lings­møn­stre i en ro­bot, nem­lig eks­pli­cit pro­gram­me­ring og ak­ku­mu­le­ring af er­fa­rin­ger. Vi kan hur­tigt op­gi­ve fo­re­stil­lin­gen om, at al men­ne­ske­lig ad­fa­erd kan la­eg­ges i en ro­bot ved eks­pli­cit pro­gram­me­ring. Der­for skal de fø­lel­ses­bår­ne ak­ti­vi­te­ter ind­la­eg­ges via ak­ku­mu­le­ring af er­fa­rin­ger. Der skal alt­så ska­bes en art ma­ski­ne, der kan op­sam­le er­fa­rin­ger med al­le san­ser (spe­ci­elt smags- og lug­tesan­sen) og de der­af føl­gen­de sindstil­stan­de så­som gla­e­de, kval­me, lyst, ir­ri­ta­tion, tra­et­hed, ae­ng­stel­se. Der skal og­så op­sam­les er­fa­rin­ger med art­s­fa­el­ler til etab­le­ring af fø­lel­ser så­som ven­skab, ka­er­lig­hed, af­sky, loy­a­li­tet. En sty­ren­de in­dre kraft som samvit­tig­hed kan ik­ke op­byg­ges uden er­fa­ring med fora­el­dre/op­dra­ge­re. Man skal spi­se me­re end ét ae­b­le for at få kund­skab på godt og ondt.

Lad os nu un­der­ka­ste den an­droi­de in­ter­ne­ta­gent Turing­te­sten: Kan vi ved kom­mu­ni­ka­tion af­gø­re om det er et men­ne­ske el­ler en kun­stig agent? Start med at spør­ge, hvad den fik til mor­gen­mad. Kan den li­de rø­get sild med cho­ko­la­de­over­tra­ek? Hvad med et mi­de­be­fa­engt åd­sel? Gå der­ef­ter vi­de­re med spe­ci­fik­ke ma­te­ri­el­le pro­ble­mer, som hvor­vidt en kniv kan bru­ges som skru­et­ra­ek­ker. Stil den op­ga­ver der for­drer »de for hån­den­va­e­ren­de søms prin­cip«. Agen­ten vil af­slø­re sig al­ler­se­ne­st ved samvit­tig­heds­spørgs­må­le­ne.

TIL­BA­GE til singu­la­ri­tets­ro­bot­ter­ne, der må­ske vil sla­ve­bin­de men­ne­ske­he­den. De be­hø­ver jo ik­ke va­e­re an­droi­der med et fuldt ud­vik­let fø­lel­ses­liv. De be­hø­ver dog en la­en­ge­re er­fa­rings­op­sam­ling med den ma­te­ri­el­le ver­den. Hvis det skul­le ske, at der blev skabt su­perin­tel­li­gen­te ro­bot­ter, der fik den drift at ero­bre ver­den, hvad skul­le da gø­re dem i stand til at be­sej­re men­ne­sket? For det før­ste sy­nes det na­er­mest umu­ligt at ska­be ro­bot­ter, der gra­en­se­løst kan for­me­re sig. For det an­det vil de ha­ve et enormt han­di­cap i for­hold til men­ne­sker hvad an­går for­tro­lig­hed med den ma­te­ri­el­le ver­den. Så men­ne­ske­he­den kan utvivl­s­omt op­fin­de me­to­der til til­in­tet­gø­rel­se af en­hver trus­sel fra su­perin­tel­li­gen­te ro­bot­ter.

Jeg kan der­for be­ro­li­ge med, at så la­en­ge der ik­ke for­skes i kun­stigt stof­skif­te, er der me­get langt til den så­kald­te singu­la­ri­tet. Så vidt jeg ved, har man end­nu ik­ke op­fun­det ma­ski­na­mø­ber med kun­stigt stof­skif­te.

ILLUSTRATION: CHARLOTTE PARDI

Finn Verner Jen­sen er pro­fes­sor eme­ri­tus i kun­stig in­tel­li­gens og med­lem af Ta­en­ket­an­ken 42.

Newspapers in Danish

Newspapers from Denmark

© PressReader. All rights reserved.