Ко­гда бо­ты нач­нут управ­лять людь­ми

От со­ци­аль­но­го ха­кин­га ни­где не скрыть­ся. Да­же ес­ли вы не по­се­ща­е­те фо­ру­мы и соц­се­ти, во­об­ще не поль­зу­е­тесь ин­тер­не­том, не смот­ри­те те­ле­ви­зор и не слу­ша­е­те ра­дио

Delovaya Stolitsa - - ОБЩЕСТВО -

Сер­гей ИЛЬ­ЧЕН­КО

На од­ном из за­кры­тых фо­ру­мов для про­грам­ми­стов на днях об­суж­да­ли двух бо­тов. Недав­но опро­бо­ван­ных и ока­зав­ших­ся успеш­ны­ми.

Бот (со­кра­ще­ние от ро­бот) — это про­грам­ма, спо­соб­ная вы­пол­нять по опре­де­лен­но­му ал­го­рит­му ка­кие-ли­бо дей­ствия че­рез ин­тер­фей­сы, пред­на­зна­чен­ные для лю­дей. В дан­ном слу­чае ве­сти диа­лог с по­се­ти­те­ля­ми фо­ру­ма ли­бо в соц­се­ти — там, где эта про­грам­ма за­пу­ще­на. При­чем че­ло­век, участ­ву­ю­щий в та­ком диа­ло­ге, уве­рен, что он об­ща­ет­ся с че­ло­ве­ком. Это еще не озна­ча­ет, что та­кая про­грам­ма спо­соб­на мыс­лить, хо­тя о том, что та­кое «мыс­лить», то­же мож­но по­спо­рить. Но оста­вим по­ка те­му мыш­ле­ния в по­кое. Про­грам­ма спо­соб­на об­ра­тить­ся к поль­зо­ва­те­лю-че­ло­ве­ку и под­дер­жи­вать бе­се­ду, опе­ри­руя та­ки­ми ре­пли­ка­ми, ко­то­рые че­ло­век-со­бе­сед­ник со­чтет есте­ствен­ны­ми. То есть эта про­грам­ма спо­соб­на оправ­дать ожи­да­ния че­ло­ве­ка-со­бе­сед­ни­ка. Она со­ци­а­ли­зи­ро­ва­на и ве­дет диа­лог в рам­ках, при­ня- тых в дан­ном об­ще­стве. В том об­ще­стве, для ко­то­ро­го пред­на­зна­че­на. То есть в це­лом, с со­ци­аль­ной точ­ки зре­ния та­кая про­грам­ма, по мень­шей ме­ре в диа­па­зоне за­ло­жен­ных в нее тем для об­ще­ния, ни­чем не от­ли­ча­ет­ся от боль­шин­ства лю­дей. Ко­то­рые то­же опе­ри­ру­ют стан­дарт­ны­ми фра­за­ми и ре­ак­ци­я­ми, а ду­мать не хо­тят или неспо­соб­ны.

Да­лее, та­кая про­грам­ма долж­на по­бу­дить со­бе­сед­ни­ка-че­ло­ве­ка вы­пол­нить опре­де­лен­ные дей­ствия. Вы­пол­не­ние че­ло­ве­ком этих дей­ствий в ре­зуль­та­те диа­ло­га с про­грам­мой и есть кри­те­рий ее успеш­но­сти.

Мож­но, ко­неч­но, по­спо­рить о том, прой­дет ли та­кая про­грам­ма тест Тью­рин­га в ла­бо­ра­тор­но-кон­курс­ных усло­ви­ях. Ско­рее нет, впро­чем, это не важ­но, ес­ли она до­сти­га­ет по­став­лен­ных за­дач. В кон­це кон­цов, ее пи­са­ли, что­бы ра­бо­тать на ре­зуль­тат. И вот прак­ти­че­ские ре­зуль­та­ты, на­до ска­зать, впе­чат­ля­ют.

Бот № 1 дол­жен был по­буж­дать жен­щин де­лить­ся с мни­мым со­бе­сед­ни­ком ин­тим­ны­ми фо­то­гра­фи­я­ми. Це­ле­вая ауди­то­рия: англо- языч­ные, бе­лые, от 20 до 30, во­сточ­ное по­бе­ре­жье США. Успех — в 4% слу­ча­ев. Для со­бе­сед­ни­ка-че­ло­ве­ка ре­зуль­тат так се­бе, но для про­грам­мы, вы­да­ю­щей се­бя за че­ло­ве­ка, — очень до­стой­ный. В сред­нем уго­во­ры за­ни­ма­ли 16 тыс. зна­ков со сто­ро­ны бо­та, при­чем уже по­сле 5 тыс. зна­ков ста­но­ви­лось по­нят­но, бу­дет ли до­стиг­нут успех. За­ве­до­мо неуспеш­ные диа­ло­ги об­ры­ва­лись — неза­чем тра­тить на них ресурсы. Про­грам­му обу­чи­ли на вы­бор­ке из 200 жи­вых диа­ло­гов с ре­аль­ны­ми людь­ми, по­сле че­го она са­мо­обу­чи­лась еще на 2 тыс. диа­ло­гов и вы­шла на ста­биль­ный 4%-ный ре­зуль­тат.

Бот № 2 дол­жен был по­буж­дать со­бе­сед­ни­ка жерт­во­вать скром­ную сум­му — до $5, пе­ре­во­дя ее на счет че­рез си­сте­му PayPal. Рас­кру­тить на день­ги, пусть и неболь­шие, ока­за­лось не слож­нее, чем на ин­тим­ные фо­то, да­же, по­жа­луй, про­ще. Ко­гда под­го­тов­лен­ный бот был за­пу­щен в Сеть, он со­брал за сут­ки $15 тыс.

Со­зда­те­ли бо­тов за­яви­ли, что сде­ла­ли их не с це­лью на­жи­вы, а для про­вер­ки воз­мож­но­стей со­ци­аль­но­го ха­кин­га, по­то­му что, по су­ти, это и есть ха­кинг че­ло­ве­че­ско­го со­зна­ния, про­во­ди­мый со­ци­аль­ны­ми ме­то­да­ми. На фо­ру­ме немед­лен­но вспых­ну­ла дис­кус­сия о до­пу­сти­мо­сти та­ких экс­пе­ри­мен­тов с точ­ки зре­ния эти­ки. Но этот ас­пект, от­кро­вен­но го­во­ря, пред­став­ля­ет­ся не осо­бо ин­те­рес­ным. Ин­те­рес­нее дру­гое.

Во-пер­вых, речь идет о про­грам­ме, ко­то­рая мо­жет быть ре­а­ли­зо­ва­на на лю­бом но­си­те­ле. Как на но­си­те­ле-ком­пью­те­ре для диа­ло­гов в Се­ти, так и на но­си­те­ле-че­ло­ве­ке для диа­ло­гов в ре­аль­ном ре­жи­ме об­ще­ния. Ме­то­ды гип­но­про­грам­ми­ро­ва­ния поз­во­ля­ют за­ло­жить в че­ло­ве­че­ское со­зна­ние весь­ма впе­чат­ля­ю­щую ба­зу во­про- сов-от­ве­тов, ко­то­рые бу­дут вы­да­вать­ся бук­валь­но на ав­то­ма­те, влет. Впро­чем, и безо вся­ко­го гип­но­за эту ба­зу мож­но про­сто вы­учить и до­ве­сти ее ис­поль­зо­ва­ние до пол­но­го ав­то­ма­тиз­ма. Та­кой под­ход зай­мет немно­го боль­ше вре­ме­ни.

Ины­ми сло­ва­ми, от со­ци­аль­но­го ха­кин­га ни­где не скрыть­ся. Да­же ес­ли вы не по­се­ща­е­те фо­ру­мы и соц­се­ти, во­об­ще не поль­зу­е­тесь ин­тер­не­том, не смот­ри­те те­ле­ви­зор и не слу­ша­е­те ра­дио, вас неиз­беж­но до­ста­нут ра­но или позд­но.

Во-вто­рых, че­ло­ве­че­ская пси­хи­ка, как мы ви­дим, — чер­тов­ски хруп­кая шту­ка. Как и че­ло­ве­че­ская лич­ность. С лич­но­стью во­об­ще мас­са во­про­сов. Она бук­валь­но раз­мы­ва­ет­ся. Ес­ли вам, по­ми­мо ва­шей во­ли, вну­ша­ют же­ла­ние что-то сде­лать, то где, соб­ствен­но, за­кан­чи­ва­е­тесь вы со сво­и­ми соб­ствен­ны­ми же­ла­ни­я­ми и где на­чи­на­ет­ся сто­рон­ний ма­ни­пу­ля­тор? Где про­хо­дят гра­ни­цы ва­шей лич­но­сти, ко­то­рые долж­ны быть за­щи­ще­ны? Ка­кие фор­мы вли­я­ния на нее сле­ду­ет счи­тать нор­маль­ны­ми, а ка­кие непри­ем­ле­мы­ми? Как про­ве­сти гра­ни­цы до­пу­сти­мо­го и на­до ли за­щи­щать их за­ко­но­да­тель­но? На­ко­нец, ка­ко­вы ме­то­ды за­щи­ты от та­ко­го взло­ма? Они, оче­вид­но, есть, но не све­де­ны в си­сте­му. Они до­ступ­ны ско­рее ин­ту­и­тив­но, и овла­де­ние ими вы­ше сред­не­го уров­ня воз­ни­ка­ет за­ча­стую как по­боч­ный эф­фект, по­рож­да­е­мый от­но­си­тель­но вы­со­ким уров­нем об­ра­зо­ва­ния, а так­же на­вы­ка­ми, свой­ствен­ны­ми неко­то­рым про­фес­си­ям: уме­ни­ем ана­ли­зи­ро­вать боль­шое чис­ло раз­ных фак­тов, успеш­но, то есть адек­ват­но ре­аль­но­сти, свя­зы­вая их во­еди­но, и вы­со­ким уров­нем недо­вер­чи­во­сти. Кста­ти, где та грань, за ко­то­рой недо­вер­чи­вость мож­но трак­то­вать как при­знак пси­хи­че­ско­го рас­строй­ства?

Но та­кие на­вы­ки есть да­ле­ко не у всех. Бо­лее то­го, аб­со­лют­ное боль­шин­ство пред­ста­ви­те­лей Homo Sapiens не об­ла­да­ет ими во­все (иро­нич­но под­вер­гая, та­ким об­ра­зом, со­мне­нию эту био­ло­ги­че­скую клас­си­фи­ка­цию). Меж­ду тем си­ту­а­ция та­ко­ва, что раз­ра­бот­ка си­сте­мы пси­хо­ло­ги­че­ской са­мо­обо­ро­ны и обя­за­тель­ное пре­по­да­ва­ние ее на­чи­ная с на­чаль­ной шко­лы ста­но­вят­ся во­про­сом вы­жи­ва­ния от­дель­но­го че­ло­ве­ка, об­ще­ства и го­су­дар­ства. По­то­му что ес­ли у вас нет на­вы­ков та­кой са­мо­за­щи­ты, то, по­тол­ко­вав с ва­ми недол­гое вре­мя, про­фес­си­о­наль­ный со­ци­аль­ный ха­кер мо­жет рас­кру­тить вас на что угод­но. При­чем ме­то­ды со­ци­аль­но­го ха­кин­га со­вер­шен­ству­ют­ся бук­валь­но на гла­зах.

Над со­зда­ни­ем си­сте­мы пси­хо­ло­ги­че­ской са­мо­за­щи­ты, до­ступ­ной ря­до­во­му граж­да­ни­ну, са­мое вре­мя за­ду­мать­ся уже се­го­дня. И не про­сто за­ду­мать­ся, а при­сту­пить к ее немед­лен­ной раз­ра­бот­ке, сде­лав это од­ним из глав­ных стра­те­ги­че­ских при­о­ри­те­тов. Для на­ча­ла со­здать груп­пу спе­ци­а­ли­стов: про­грам­ми­стов, пси­хо­ло­гов, юри­стов и ме­дий­щи­ков, что­бы оце­нить хо­тя бы мас­штаб за­дач и обо­зна­чить пу­ти их ре­ше­ния. Борь­ба с враж­деб­ной про­па­ган­дой, о ко­то­рой так мод­но го­во­рить се­го­дня, — лишь от­дель­ный и да­ле­ко не са­мый слож­ный слу­чай об­щей про­бле­мы.

Бот, по­буж­дая со­бе­сед­ни­ков жерт­во­вать до $5 на счет че­рез си­сте­му PayPal, смог за сут­ки со­брать $15 тыс.

Newspapers in Russian

Newspapers from Ukraine

© PressReader. All rights reserved.