Tech-taenkere mellem frygt og håb

finder sig i naerheden af dette spektrums øvre graense.«

For eksempel er gradsforskellen i intelligens – defineret som evnen til at behandle informationer af enhver slags – massiv, når det kommer til et menneske og en kylling. Men er der dermed graenser for, hvor intelligent en maskine på sigt kan blive, hvis ikke mennesket selv er naer toppen? Dobbelt, tre gange eller ti tusind gange så intelligent som vi? Hvad med en million?

»Jeg tror, at faren ved AI er langt større end faren ved atomvåben,« fortalte Musk en gruppe guvernører i 2018. »Ingen ville foreslå, at vi bare lader folk bygge atomvåben, hvis de har lyst – det ville vaere sindssygt. Og maerk jer mine ord: AI er langt mere farligt end a-bomber.«

Den bekymring er Musk ikke ene om. Både Microsofts stifter Bill Gates og astrofysikeren Stephen Hawking har understreget risikoen. Men det imponerer ikke skeptikerne.

Musks udtalelser var »en negativ distraktion«, udtalte en forsker til CNBC i maj. Andre er kommet med samme pointe – der er ganske vist mange problemer med AI, men en kommende Terminator-apokalypse er ikke én af dem. Ikke mindst fordi kunstig intelligens i virkeligheden er langt mere uintelligent, end de fleste tror.

Det er der talløse eksempler på. Som Musks egne kunder, der har filmet, hvordan deres selvkørende Teslaer friskt brager gennem en parkeringsplads, når ejermaendene kalder, efterladende sig en skov af bulede kofangere i deres kølvand. Eller finansalgoritmer, der pludselig går i selvsving og crasher en børs – som det skete i 2010 under verdens første såkaldte flashcrash.

Selv svaervaegtere som Microsoft går ikke ram forbi. I 2016 udviklede firmaet Tay, verdens bedste, intelligente og selvlaerende chatbot. Tay blev sluppet ud på internettet – efter en enkelt dag i det fri havde den udviklet sig til verdens første AI-nynazist.

Jeg har talt med Mark (Zuckerberg, red.) om det her. Hans forståelse for emnet er begraenset.

»Feminister skal braende i helvede«

»Feminister skal braende i helvede! Racekrig nu!« skrev Tay med store bogstaver på sin officielle Twitter-konto.

Microsoft måtte med det samme i gang med en laengere raekke undskyldninger.

Det skete, fordi bottens algoritme var blevet bevidst manipuleret af en netnazigruppe – det var endda nemt. Så snart de havde regnet Tays reaktionsmønstre ud, gik de bevidst efter at bombardere den med hadefuld retorik, som dens selvlaerende algoritme blindt tog til sig. Og dermed pointen, understreger Musks kritikere: Problemet er ikke, at den kunstige intelligens snart er smart nok til at overtage verden. Problemet er, at den stadig er alt for dum til at håndtere selv hverdagens almindeligheder.

»Musk ved ikke, hvad han taler om, når han taler om AI,« opsummerede Jerome Pesenti, Facebooks direktør for udvikling af kunstig intelligens, på Twitter i maj.

»Facebook sucks,« skrev Musk tilbage.

ELON MUSK, TOPCHEF FOR TESLA