Stephen Hawking - Et sinn uten grenser
FARENE MED KUNSTIG INTELLIGENS
Hva skjer når biler og brødristere får selvbevissthet?
Få mennesker var mer klar over informasjonsteknologiens fordeler enn Stephen Hawking, men han understreket også faren som kunne ligge i løpsk kunstig intelligens ( AI). Potensialet oppstår når vi gir programvare evnen til å treffe beslutninger som kan ha direkte innvirkning på tilværelsen vår.
Grovt sett kan farene med kunstig intelligens deles i tre typer. Det mest sannsynlige er rene feilgrep. En kunstig intelligens kan være bedre til å utføre en bestemt oppgave enn et menneske, men likevel kan den begå feil. Her kan en hevde at faren er et oppfatningsspørsmål. I dag mister en million mennesker i året livet i trafikkulykker her i verden. La oss tenke oss at alle biler var selvkjørende og reduserte dødstallene til det halve. Ville det bli oppfattet som en halv million liv spart, eller som at kunstig intelligens hadde drept en halv million mennesker? I mars 2018 ble en fotgjenger for første gang drept av en førerløs bil.
Den andre typen fare er at kunstig intelligens kan undergraves av hackere. Og den tredje går ut på at kunstig intelligens kan få så stor evne til selvstendig tankegang at den velger å sette sine egne ønsker foran menneskehetens. Det er denne siste trusselen Hawking har fokusert mest på.
Mildeste variant av faretypen er at en kunstig intelligens simpelthen mister interessen og velger å se filmer hele dagen i stedet for å gjøre jobben sin. Marerittet er en kunstig intelligens som kommer til at menneskeheten står i veien for målene den har satt seg. Med adgang til systemene vi trenger for å holde oss i live, fra matdistribusjon og kraftproduksjon til forsvarsanlegg, kan en slik utro kunstig intelligens utradere mesteparten av menneskeheten for å etterstrebe sine egne mål. Dette kan virke som science fiction, men Hawking påpekte at vi er nødt til å tenke gjennom slike muligheter for å kunne gardere oss mot dem.