Teknologi og sorteringssamfunnet
Kanskje det viktigste som ble sagt under hele Arendals-uka denne sensommeren, var det Knut Arild Hareide fra KRF som sto for.
Han avsluttet partilederdebatten med følgende betraktning om temaet roboter og teknologi. Han sa: Teknologien og robotene kommer uansett. Men vi er nødt til å la etikken styre teknologien og ikke la teknologien styre etikken.
KRF er selvsagt det partiet som er mest bekymret for hvor langt teknologien vil utvikle seg og i hvilken retning. De ser ikke lenger ut til å tro på Brorsons påstand i salmen fra 1734 om at selv ikke om alle jordens konger prøvde alt de kunne, så ville de ikke klare å sette det minste blad på en nelde.
Nå frykter partiet for at nettopp det kan skje; at noen lykkes i et slikt forsøk. Og den frykten deles av mange. KRF er derfor meget opptatt av at teknologien og den teknologiske utvikling må styres av etikken. KRF er jo saerlig engstelig for hvordan deres syn på menneskeverdet vil kunne bevares i framtiden. Og det er all grunn til bekymring.
Sannsynligheten for et sorteringssamfunn er til stede. Verden har kanskje aldri vaert naermere Brave New World (Aldous Huxley 1932) enn nå. I den vidunderlige nye verden blir mennesker konstruert etter hvilket formål de skal tjene i samfunnet. Fra Alpha + mennesker, lederne, til Epsilon – mennesker som knapt kan sies å ha menneskelige egenskaper, arbeidere på laveste nivå. Alle produsert på flasker.
Nå produserer Russland soldat-roboter. Riktignok ikke på flasker, men i laboratorier og i verksteder og om ikke lenge i fabrikker. Og USA konstruerer sine kamp-roboter med kunstig intelligens som de sier vil gjøre det mulig for autonome (selvstyrende) systemer å bestemme og utføre kamphandlinger uten input fra mennesker. Altså at roboten eller systemene foretar selvstendige valg i en krigssituasjon. Man kan jo tenke seg hvilke verdier som legges inn i kamp/soldat-roboter for å fatte «riktige» beslutninger. De er neppe etisk høyverdige. FN har derfor besluttet å opprette en internasjonale ekspertgruppen med regjeringsrepresentanter for å diskutere både de teknologiske, militaere, juridiske og etiske implikasjonene ved å utvikle autonome våpen.
De gir dessverre ikke mye lyd fra seg. For hva blir det neste i den teknologiske utviklingen? Autonome maskiner som sjåfører, flygere, sykepleiere, laerere? Roboter med selvstendige valg og avgjørelser? Finnes det grenser for hva vår kreativitet og skaperevne kan produsere av skapninger som blir uavhengig av påvirkning fra mennesker? Som i neste instans kanskje reproduserer seg selv? Som etter å ha blitt produsert og programmert beslutter og bestemmer sine egne handlinger, gjør sine egne valg som kosten gjør i diktet Trollmannens laeregutt.
IGoethes dikt fra 1797 setter trollmannen sin laeregutt til å utføre et arbeid på en viss måte. Noe likt kamp-roboter eller droner gjør i dag. Laeregutten finner denne måten lite hensiktsmessig, og overprøver trollmannens påbud ved å gjøre det på sin egen måte. Laeregutten setter i sving krefter han ikke er i stand til å kontrollere, og resultatet er katastrofalt. Hos Goethe er konsekvensen selvsagt en flom. Hvis man i den pågående revolusjonen lar teknologien utvikle seg ukontrollert, er naturligvis konsekvensen en syndeflod. For nå er det ikke bare etikken som styringsredskap og veiviser for mennesket, man må vaere oppmerksom på. Nå er det også overføring av etiske holdninger og handlinger til roboter som må diskuteres og som det må tas beslutninger om.
Hvordan få en robot til å handle etisk riktig i valgsituasjoner? For valg blir foretatt av robotene. Og hva er etisk riktige valg? Ved tidligere teknologiske revolusjoner så er det det menneskelige muskelarbeid som er overtatt av maskiner. Men denne gangen kan det vaere den menneskelige hjerne; vår tenkemåte, vår moral, vårt verdisett som skal programmeres inn i en maskin med kunstig intelligens. Og etter hvert vil vi få roboter som selv skaper roboter. Autonomt. Naermere en ny skapelse har vi aldri vaert. Nå skal robotens kropp og sjel utformes. Og robotene kan gjøre det selv.
For hva skal robotenes hjerner utstyres med, og hvem skal stå for programmeringen og algoritmene? Akkurat dette er tidens viktigste spørsmål. Vil det bli slik at hver nasjon vil lage sine egne program og dermed sine egne roboter? Hva vil dette si for Norge, for verden? For menneskeheten? Skal regjeringen, Stortinget, FN, kapitalen, styre utviklingen? Vil det bli et marked for etiske roboter? For roboter med forskjellig verdisyn? Gode roboter? Onde roboter? Terror-roboter? Hvilke ideologier skal programmeres inn i robotene? Hvilke religioner skal med? Skal menneskerettighetene inn, de 10 bud, rettsstaten, velferdssamfunnet?
Politikerne må høre på Hareide og på humanistene. Sammen må de kontrollere realistene og teknologifundamentalistene. Og det er saerlig viktig å poengtere dette i vår tids realfagshysteri og ureflekterte opphausing av realfagene. Og vi må skynde oss før kunstig intelligens blir mer intelligent enn den menneskelig. På alle områder.
Naermere en ny skapelse har vi aldri vaert. Nå skal robotens kropp og sjel utformes. Og robotene kan gjøre det selv.