Wenn Da­ta zum Le­ben er­wacht

Das EU-Par­la­ment hin­ter­fragt die heik­len ethi­schen und recht­li­chen Aspek­te der Ro­bo­tik.

Saarbruecker Zeitung - - THEMEN DES TAGES - VON CHRIS­TOPH SCHREINER

SAAR­BRÜ­CKEN Könn­te es sein, dass Ro­bo­ter in nicht all­zu fer­ner Zu­kunft zu un­se­ren Ri­va­len wer­den? Weil sie au­ßer Kon­trol­le ge­ra­ten und er­fas­sen, dass sie uns über­le­gen sind? Der Phy­si­ker Ste­phen Haw­king, der sich in­fol­ge ei­ner de­ge­ne­ra­ti­ven Er­kran­kung des mo­to­ri­schen Ner­ven­sys­tems nur noch über ei­nen Sprach­com­pu­ter ver­stän­di­gen kann, hält die­ses Sze­na­rio für nicht un­wahr­schein­lich. Be­reits 2014 warn­te er da­vor, dass Ro­bo­ter „das En­de der Mensch­heit ein­lei­ten könn­ten“– weil die Künst­li­che In­tel­li­genz (KIFor­schung) selbst­ler­nen­de Ro­bo­ter ent­wick­le, die sich mit sol­cher Ra­s­anz wei­ter­ent­wi­ckeln, dass die Mensch­heit ir­gend­wann das Nach­se­hen ha­be. „Da der Mensch durch lang­sa­me bio­lo­gi­sche Evo­lu­ti­on be­schränkt ist, könn­te er nicht kon­kur­rie­ren und wür­de ver­drängt wer­den“, mein­te Haw­king sei­ner­zeit ge­gen­über BBC.

Knapp ein hal­bes Jahr­hun­dert vor Haw­king gab St­an­ley Ku­bricks Film „2001: Odys­see im Welt­raum“be­reits ei­nen Vor­ge­schmack dar­auf, wie ein sol­cher Kon­troll­ver­lust über Ro­bo­ter aus­se­hen könn­te: Auf dem Flug zum Pla­ne­ten Ju­pi­ter drif­tet der Cy­borg HAL lang­sam ab und wird im­mer ver­hal­tens­auf­fäl­li­ger, so dass die Be­sat­zung ihn ab­schal­ten will. Als HAL das merkt, bringt er die Wis­sen­schaft­ler nach und nach um. Ist HAL ein blo­ßes tech­no­ides Schreck­ge­spenst aus dem Reich der Sci­ence-Fic­tion? Oder neh­men wir „Com­man­der Da­ta“, den uns Men­schen zum Ver­wech­seln ähn­li­chen, aber im Un­ter­schied zu uns 60 Bil­lio­nen Re­chen­ope­ra­tio­nen in der Se­kun­de durch­füh­ren­den An­dro­id aus „Star Trek“: Könn­te „Com­man­der Da­ta“in 20 Jah­ren un­ser Nach­bar sein?

Hell­hö­rig macht, dass aus­ge­rech­net ein Sci­ence-Fic­tion-Au­tor 1942 je­ne drei Grund­re­geln for­mu­liert hat, die KI-For­scher noch heu­te wie ei­nen hip­po­kra­ti­schen Eid her­un­ter­be­ten. In sei­ner Er­zäh­lung „Ru­na­round“for­mu­lier­te Isaac Asi­mov, was auch ein ge­ra­de ver­ab­schie­de­tes Pa­pier der EUPar­la­men­ta­ri­er nicht zu zi­tie­ren

ver­gisst: „1) Ein Ro­bo­ter darf kein mensch­li­ches We­sen (wis­sent­lich) ver­let­zen oder durch Un­tä­tig­keit (wis­sent­lich) zu­las­sen, dass ei­nem mensch­li­chen We­sen Scha­den zu­ge­fügt wird. 2) Ein Ro­bo­ter muss den ihm von ei­nem Men­schen ge­ge­be­nen Be­feh­len ge­hor­chen – es sei denn, ein sol­cher Be­fehl wür­de mit Re­gel eins kol­li­die­ren. 3) Ein Ro­bo­ter muss sei­ne Exis­tenz be­schüt­zen, so­lan­ge die­ser Schutz nicht mit Re­gel eins oder zwei kol­li­diert.“

Ver­gan­ge­ne Wo­che sind die „elek­tri­schen Per­so­nen“im EUPar­la­ment an­ge­kom­men. In ei­ner 28-sei­ti­gen Re­so­lu­ti­on, die die EU-Kom­mis­si­on nun in ein Ge­setz gie­ßen soll, ha­ben die Par­la­men­ta­ri­er mit gro­ßer Mehr­heit zi­vil­recht­li­che Re­ge­lun­gen im Be­reich der Ro­bo­tik an­ge­mahnt. Die Mensch­heit ste­he in­fol­ge der Ent­wick­lung der Künst­li­chen In­tel­li­genz (KI) an der Schwel­le ei­ner neu­en in­dus­tri­el­len Re­vo­lu­ti­on, „die wahr­schein­lich kei­ne Ge­sell­schafts­schicht un­be­rührt las­sen wird“, heißt es la­pi­dar in der Ein­lei­tung. Schon die al­pha­be­tisch ge­lis­te­ten Vor­be­mer­kun­gen sind so um­fas­send, dass die 26 Buch­sta­ben von A bis Z da­zu nicht aus­rei­chen (wes­halb die Ein­lei­tung erst in ei­nem zwei­ten Durch­lauf bei Punkt A I en­det). Die gan­ze Ver­trackt­heit der Tech­nik­fol­genAb­schät­zung der KI il­lus­triert Punkt T. Dort heißt es, „dass die Ro­bo­ter­re­geln von Asi­mov auf Ent­wick­ler, Her­stel­ler und Be­trei­ber von Ro­bo­tern – dar­un­ter auch sol­che mit in­te­grier­ter Au­to­no­mie und der Fä­hig­keit zum Selbst­ler­nen – ge­rich­tet wer­den müs­sen, da die­se Ge­set­ze nicht in ei­nen Ma­schi­nen­code um­ge­wan­delt wer­den kön­nen“. Ge­nau das ist des Cy­borg-Pu­dels Kern: Wie im­ple­men­tiert man Ro­bo­tern die­se ka­te­go­ri­schen Im­pe­ra­ti­ve?

Das Straß­bur­ger Po­si­ti­ons­pa­pier zeigt, dass die Par­la­men­ta­ri­er sich, so­weit dies Fach­frem­den mög­lich ist, mit der Ma­te­rie ver­traut ge­macht ha­ben. Sie mah­nen nicht nur ein ethi­sches Re­gel­werk für den Ein­satz von Ro­bo­tern in der Pfle­ge oder im Stra­ßen­ver­kehr an, „da­mit die Wür­de, die Au­to­no­mie und die Selbst­be­stim­mung der ein­zel­nen Per­son ge­wahrt blei­ben“. Sie for­dern auch ein eu­ro­pa­wei­tes Re­gis­trie­rungs- und Pflichtv er si­che­rungs­sys­tem für „fort­schritt­li­che Ro­bo­ter“oder mah­nen, sel­bi­ge mit „Kill-Schal­tern“(Not­ab­schal­tung) und ei­ner „Black­box“aus­zu­stat­ten, die sämt­li­che ma­schi­nell aus­ge­führ­ten Ak­tio­nen spei­chert. Die EUPar­la­men­ta­ri­er be­las­sen es aber nicht al­lein bei flan­kie­ren­den zi­vil­recht­li­chen Maß­nah­men, sie pro­pa­gie­ren auch ei­ne „Char­ta für Ro­bo­tik“: KI-In­ge­nieu­re sol­len dem­nach et­wa künf­tig für die Fol­gen ih­rer Forschung zur Re­chen­schaft ge­zo­gen wer­den kön­nen.

Eher na­iv mu­tet hin­ge­gen der Vor­schlag an, in ei­ner sol­chen Char­ta ein Prin­zip der Um­kehr­bar­keit fest­schrei­ben zu wol­len: „Um kehr bar­kei­tis tals not­wen­di­ge Be­din­gung der Kon­trol­lier­bar­keit ein Grund­kon­zept bei­der Pro­gram­mie­rung ei­nes si­che­ren und zu­ver­läs­si­gen Ro­bo­terv er­hal­tens .“Wird die­ses„ Zu­rück auf Null“-Prin­zip im­mer ge­ge­ben sein? Je mehr Ro­bo­ter „ei­gen­stän­dig Ent­schei­dun­gen tref­fen“, heißt es an an­de­rer Stel­le des Pa­piers viel­sa­gend, um­so dring­li­cher stel­le sich „die Fra­ge nach ih­rer Rechts­na­tur“. Zu­mal „Ro­bo­ter der neu­en Ge­ne­ra­ti­on“über Fä­hig­kei­ten ver­füg­ten ,„ die ein ge­wis­ses Maß anUn­vor­hers eh bar­keit in ih­rem Ver­hal­ten zur Fol­ge ha­ben“. In Straß­burg, dar­an lässt die­se Re­so­lu­ti­on zwi­schen den Zei­len kei­nen Zwei­fel, ist die Zu­kunft Ge­gen­wart ge­wor­den.

„Ro­bo­ter der neu­en Ge­ne­ra­ti­on kön­nen mit Fä­hig­kei­ten aus­ge­stat­tet wer­den, die ein ge­wis­ses Maß an Un­vor­her­seh­bar­keit in ih­rem Ver­hal­ten zur Fol­gen ha­ben.“Aus der Re­so­lu­ti­on des EU-Par­la­ments

FO­TO: GET­TY IMAGES

Könn­te ei­ner wie Com­man­der Da­ta, ein An­dro­id aus dem Film „Star Trek”, in 20 Jah­ren viel­leicht un­ser Nach­bar sein? Se­riö­se Wis­sen­schaft­ler wie et­wa der Phy­si­ker Ste­phen Haw­king schlie­ßen nicht aus, dass über­le­ge­ne Ro­bo­ter sich ei­nes Ta­ges ge­gen uns wen­den. Auch die EU sorgt sich.

Newspapers in German

Newspapers from Germany

© PressReader. All rights reserved.