Мо­раль бес­пи­лот­ни­ка

Rossiyskaya Gazeta - - ТИТУЛЬНЫЙ ЛИСТ -

Ро­бо­ты насту­па­ют! Эта фан­та­зия пи­са­те­лей стре­ми­тель­но ста­но­вит­ся ре­аль­но­стью. А эко­но­ми­сты США под­счи­та­ли, что че­рез де­сять лет ро­бо­ты и ис­кус­ствен­ный ин­тел­лект вы­тес­нят с ра­бо­чих мест де­сят­ки мил­ли­о­нов аме­ри­кан­цев. Ум­ные ма­ши­ны уже луч­ше че­ло­ве­ка вы­пол­ня­ют мно­гие опе­ра­ции, а по­то­му в про­мыш­лен­но­сти вы­тес­ни­ли лю­дей из мно­гих про­из­водств. Они от­лич­ные груз­чи­ки, свар­щи­ки, куз­не­цы и штам­пов­щи­ки, сбор­щи­ки, они луч­ше че­ло­ве­ка свер­лят, фре­зе­ру­ют, ре­жут, кле­па­ют, шли­фу­ют, по­ли­ру­ют, быст­ро осва­и­ва­ют мно­гие дру­гие ра­бо­чие про­фес­сии.

Уже на­ме­ре­ны про­рвать­ся на до­ро­ги ро­бо­ты-ав­то­мо­би­ли. Эти бес­пи­лот­ни­ки про­еха­ли де­сят­ки ты­сяч ки­ло­мет­ров в раз­ных стра­нах ми­ра, а ре­корд по­ста­вил ав­то­мо­биль-ро­бот, пре­одо­лев 5630 ки­ло­мет­ров из Сан-франциско в Нью-йорк. Ко­неч­но, на слу­чай вся­че­ских неуря­диц ря­дом по­сто­ян­но на­хо­дил­ся во­ди­тель, но ра­бо­ты для него прак­ти­че­ски не на­шлось. Око­ло 99 про­цен­тов все­го про­де­лан­но­го пу­ти ма­ши­ной управ­лял ав­то­мат.

Сло­вом, но­вый мир на по­ро­ге, и для жиз­ни в нем че­ло­ве­ку на­до сроч­но со­зда­вать но­вые пра­ви­ла, в том чис­ле и для са­мих ро­бо­тов. Уже пер­вые попы­тки их раз­ра­бо­тать вы­яви­ли не­ожи­дан­ные пробле­мы. Преж­де все­го это ка­са­ет­ся ро­бо­тов-ав­то­мо­би­лей, ко­то­рые по­тен­ци­аль­но мо­гут быть наи­бо­лее опас­ны для че­ло­ве­ка. Ана­лиз по­ка­зал, что ва­ри­ан­тов, с ко­то­ры­ми столк­нет­ся ро­бот, та­кое мно­же­ство, что за­ло­жить в его мозг ка­кой-то уни­вер­саль­ный на все слу­чаи жиз­ни «мо­раль­ный код» прак­ти­че­ски невоз­мож­но. Тре­мя зна­ме­ни­ты­ми за­ко­на­ми ро­бо­то­тех­ни­ки Ай­зе­ка Ази­мо­ва тут не обой­тись. Та­кой вы­вод сле­ду­ет из экс­пе­ри­мен­та Moral Machine уче­ных Мас­са­чу­сет­ско­го тех­но­ло­ги­че­ско­го ин­сти­ту­та.

Пря­мо ска­жем, мас­штаб это­го ис­сле­до­ва­ния впе­чат­ля­ет. Уче­ные опро­си­ли 2,3 мил­ли­о­на че­ло­век из бо­лее 200 стран, за­дав во­прос, ка­ки­ми мо­раль­ны­ми прин­ци­па­ми долж­ны ру­ко­вод­ство­вать­ся бес­пи­лот­ные ав­то­мо­би­ли в ава­рий­ных си­ту­а­ци­ях, ко­гда че­ло­ве­че­ских жертв из­бе­жать невоз­мож­но и нуж­но вы­брать мень­шее из зол. Мне­ния лю­дей ока­за­лись раз­ны­ми в за­ви­си­мо­сти от мо­раль­ных норм и цен­но­стей, при­ня­тых в раз­ных стра­нах и да­же ре­ги­о­нах.

Уче­ные в ан­ке­тах пред­ло­жи­ли раз­ные ва­ри­ан­ты. У бес­пи­лот­ни­ка вне­зап­но от­ка­за­ли тор­мо­за, а пе­ред ним кто-то пе­ре­хо­дит до­ро­гу: ли­бо «за­кон­но» — на зе­ле­ный или по зеб­ре, ли­бо «неза­кон­но» — на крас­ный свет. Ис­кус­ствен­ный ин­тел­лект сто­ит пе­ред мно­же­ством вы­бо­ров. Ко­го спа­сать? Боль­шую или ма­лень­кую груп­пу лю­дей, пас­са­жи­ров ма­ши­ны или пе­ше­хо­дов, муж­чин или жен­щин, ста­рых или мо­ло­дых, без­дом­ных или на­чаль­ни­ков, по­жерт­во­вать те­ми, кто на­ру­шал пра­ви­ла и шел на «крас­ный», спа­сать лю­дей или жи­вот­ных.

Неко­то­рые от­ве­ты до­воль­но оче­вид­ны. Ес­ли смот­реть усред­нен­ные по­ка­за­те­ли, то яв­ное пред­по­чте­ние от­да­но лю­дям, а не жи­вот­ным, боль­шим груп­пам, а не ма­лень­ким. При­мер­но так же про­го­ло­со­ва­ли за спа­се­ние мо­ло­дых, за­ко­но­по­слуш­ных, пе­ре­хо­дя­щих до­ро­гу на зе­ле­ный свет и вы­со­ко­ста­тус­ных лю­дей. Ме­нее ве­со­мым был пе­ре­вес при­над­леж­но­сти к жен­ско­му по­лу. Кро­ме то­го, ре­спон­ден­ты ока­за­лись бо­лее склон­ны де­лать вы­бор в поль­зу пе­ше­хо­дов, а не пас­са­жи­ров.

Но это кар­ти­на в сред­нем, а ес­ли коп­нуть чуть глуб­же, то тут на­чи­на­ет­ся са­мое ин­те­рес­ное: как по раз­ным си­ту­а­ци­ям «про­го­ло­со­ва­ли» жи­те­ли раз­ных стран и ре­ги­о­нов? По­сле под­ве­де­ния ито­гов все стра­ны услов­но рас­па­лись на три груп­пы -— За­пад­ную, Во­сточ­ную и Юж­ную. В За­пад­ную вклю­че­ны США, Ка­на­да и мно­гие ев­ро­пей­ские стра­ны -— ка­то­ли­че­ские, про­те­стант­ские и пра­во­слав­ные. В Во­сточ­ной пре­об­ла­да­ют стра­ны ли­бо с кон­фу­ци­ан­ской, ли­бо с му­суль­ман­ской тра­ди­ци­ей. Юж­ная со­сто­ит из стран Ла­тин­ской Аме­ри­ки.

Как по­ка­зы­ва­ют опро­сы, для каж­дой из трех групп ха­рак­тер­ны очень раз­ные пред­став­ле­ния, как долж­ны ве­сти се­бя бес­пи­лот­ные ма­ши­ны в кри­ти­че­ских си­ту­а­ци­ях. На­при­мер, в Юж­ной пре­об­ла­да­ет мне­ние о необ­хо­ди­мо­сти спа­сать преж­де все­го де­тей и жен­щин, то­гда как жи­те­ли Во­сточ­ной от­да­ют пред­по­чте­ние за­ко­но­по­слуш­ным пе­ше­хо­дам и не ста­вят жизнь мо­ло­дых на­мно­го вы­ше жиз­ни стар­ших.

Ес­ли в стране пре­об­ла­да­ет вы­со­кая цен­ность ин­ди­ви­ду­у­ма, то по­беж­да­ет мне­ние, что бес­пи­лот­ный ав­то­мо­биль обя­за­тель­но дол­жен ми­ни­ми­зи­ро­вать чис­ло жертв. За­то жи­те­ли стран с силь­ны­ми кол­лек­ти­вист­ски­ми уста­нов­ка­ми спо­кой­нее от­но­сят­ся к чис­лу жертв ава­рии. Кро­ме то­го, для «кол­лек­ти­ви­стов» ха­рак­тер­но по­чти­тель­ное от­но­ше­ние к стар­шим. Мо­жет быть, по­это­му у них сла­бее тре­бо­ва­ние от­да­вать пред­по­чте­ние спа­се­нию де­тей.

В стра­нах с вы­со­ким ВВП и вер­хо­вен­ством пра­ва лю­ди хо­тят спа­сать преж­де все­го тех, кто пе­ре­хо­дит до­ро­гу на зе­ле­ный свет, а не на крас­ный. Ины­ми сло­ва­ми, лю­ди, при­вык­шие к бед­но­сти и пло­хой ра­бо­те со­ци­аль­ных ин­сти­ту­тов, склон­ны смот­реть сквозь паль­цы на на­ру­ше­ние пра­вил и не при­да­вать это­му боль­шо­го зна­че­ния при ре­ше­нии во­про­сов жиз­ни и смер­ти. А в стра­нах с вы­со­ким уров­нем эко­но­ми­че­ско­го нера­вен­ства силь­нее вы­ра­же­на склон­ность в ава­рий­ной си­ту­а­ции от­да­вать пред­по­чте­ние спа­се­нию лю­дей с вы­со­ким ста­ту­сом. Мо­жет быть, это свя­за­но с тем, что жи­те­ли стран, су­мев­ших до­бить­ся бо­лее рав­но­го рас­пре­де­ле­ния благ меж­ду людь­ми, вы­ше це­нят ра­вен­ство прав и по­это­му не счи­та­ют, что за­да­вить без­дом­но­го — это луч­ше, чем за­да­вить на­чаль­ни­ка.

Столь су­ще­ствен­ные раз­ли­чия меж­ду ин­ди­ви­ду­а­ли­сти­че­ски­ми и кол­лек­ти­вист­ски­ми куль­ту­ра­ми на­вер­ня­ка со­зда­дут боль­шие пробле­мы для раз­ра­бот­чи­ков уни­вер­саль­ной ма­шин­ной эти­ки.

Newspapers in Russian

Newspapers from Russia

© PressReader. All rights reserved.