Не­па­три­о­тич­ные бо­ты

Ки­тай­ская Tencent убра­ла двух чат-бо­тов из мессенджера QQ из-за их ан­ти­па­три­о­тич­ных от­ве­тов. Один не лю­бит ком­му­ни­сти­че­скую пар­тию Ки­тая, а дру­гой хо­тел уехать в Аме­ри­ку

Vedomosti - - ТЕХНОЛОГИИ & ТЕЛЕКОММУНИКАЦИИ - Лу­и­за Лу­кас Ни­коль Лю Ин­чжи Ян

Из-за непа­три­о­тич­ных вы­ска­зы­ва­ний ки­тай­ская кор­по­ра­ция Tencent ис­клю­чи­ла бо­ты Babyq и Xiaobing из сво­е­го мессенджера QQ, у ко­то­ро­го в Ки­тае бо­лее 800 млн поль­зо­ва­те­лей. Те­сто­вая вер­сия вир­ту­аль­но­го со­бе­сед­ни­ка Babyq раз­ра­бот­ки пе­кин­ской Turing Robot от­ри­ца­тель­но от­ве­ча­ла на во­прос «Лю­би­те ли вы ком­му­ни­сти­че­скую пар­тию?». Дру­гой бот – Xiaobing от Microsoft со­об­щал, что его меч­та – по­ехать в Аме­ри­ку. В сре­ду Xiaobing еще был до­сту­пен поль­зо­ва­те­лям, но на во­про­сы о пат­ри­о­тиз­ме уже от­ве­чал уклон­чи­во.

«Чат-бо­тов раз­ме­ща­ют неза­ви­си­мые раз­ра­бот­чи­ки. В дан­ный мо­мент мы от­ла­жи­ва­ем свои сер­ви­сы, и они воз­об­но­вят ра­бо­ту, ко­гда от­лад­ка за­кон­чит­ся», – со­об­ща­ет Tencent.

Это не пер­вый слу­чай стран­но­го по­ве­де­ния си­стем ис­кус­ствен­но­го ин­тел­лек­та. Ком­па­ния Facebook бы­ла вы­нуж­де­на от­клю­чить двух бо­тов, ко­гда они ста­ли об­щать­ся друг с дру­гом на соб­ствен­ном язы­ке. Сеть Twitter так­же столк­ну­лась со свое­нрав­ным бо­том – про­грам­ма Tay про­из­вод­ства Microsoft на­ча­ла вме­сто ожи­да­е­мых доб­ро­душ­ных шу­ток публиковать ра­сист­ские и сек­сист­ские вы­ска­зы­ва­ния. Tay был уда­лен из Twitter в мар­те про­шло­го го­да, но спу­стя несколь­ко дней его вос­ста­но­ви­ли. Раз­ра­бот­чи­ки под­чер­ки­ва­ют: «Чем боль­ше вы го­во­ри­те, тем ум­нее ста­но­вит­ся Tay». Поль­зо­ва­те­лям пред­ла­га­лось иг­рать с бо­том и про­сить его по­шу­тить, но вме­сто это­го мно­гие за­да­ва­ли про­грам­ме ка­верз­ные во­про­сы. Ко­гда Tay на­чал де­лать непо­до­ба­ю­щие вы­ска­зы­ва­ния, Microsoft об­ви­нил в этом поль­зо­ва­те­лей, «устро­ив­ших ско­ор­ди­ни­ро­ван­ную ата­ку».

Не­нор­маль­ное по­ве­де­ние бо­тов сви­де­тель­ству­ет о несо­вер­шен­стве тех­но­ло­гий глу­бо­ко­го обу­че­ния, ис­поль­зу­е­мых для про­грам­ми­ро­ва­ния ма­шин. «Бо­ты вро­де Tay быст­ро со­би­ра­ют при­ме­ры все­воз­мож­ных диа­ло­гов в Twitter и на­чи­на­ют вы­ска­зы­вать­ся непо­до­ба­ю­щим об­ра­зом», – го­во­рит ве­ду­щий ана­ли­тик из Forrester Сяо­ф­эн Ван. «По­хо­жая ситуация и с Babyq. Ма­шин­ное обу­че­ние пред­по­ла­га­ет, что ма­ши­ны бе­рут все, что мож­но най­ти в ин­тер­не­те. Ес­ли вы не за­да­ди­те до­ста­точ­но чет­кие огра­ни­чи­тель­ные уста­нов­ки,

то не смо­же­те управ­лять про­цес­сом обу­че­ния», – объ­яс­ня­ет он.

Ком­па­ния Turing Robot на­зы­ва­ет про­грам­му Xiaobing «энер­гич­ным, от­кры­тым и ино­гда немно­го вред­ным» со­бе­сед­ни­ком. Babyq спо­со­бен вы­да­вать бо­лее раз­вер­ну­тую ин­фор­ма­цию, на­при­мер про­гно­зы по­го­ды. «От­кры­тый софт озна­ча­ет мно­же­ство парт­не­ров, со­об­ще­ство раз­ра­бот­чи­ков, – по­яс­ня­ет Turing. – Они лег­ко мо­гут встро­ить от­кры­тый бот в соб­ствен­ные про­грам­мы и си­сте­мы. Имен­но по­это­му про­дукт Turing Robot при­влек по­ряд­ка 600 000 раз­ра­бот­чи­ков, это да­же боль­ше, чем у Facebook».

Чат-бо­ты луч­ше все­го ра­бо­та­ют в со­ста­ве си­стем с чет­ко опре­де­лен­ной функ­ци­о­наль­но­стью, на­при­мер в се­тях под­держ­ки кли­ен­тов ма­га­зи­нов, бан­ков и стра­хо­вых ком­па­ний, уве­ре­на гла­ва под­раз­де­ле­ния ро­бо­ти­зи­ро­ван­ных плат­форм гон­конг­ской ис­сле­до­ва­тель­ской ор­га­ни­за­ции HKSTPC Кри­стал Фок. «В осталь­ных слу­ча­ях воз­мож­ны про­бле­мы», – уве­ре­на она.

Tencent и рань­ше при­хо­ди­лось кор­рек­ти­ро­вать свои сер­ви­сы, ко­гда их дей­ствия шли враз­рез с по­ли­ти­кой китайских вла­стей. В июле ком­па­ния по тре­бо­ва­нию вла­стей огра­ни­чи­ла вре­мя, в те­че­ние ко­то­ро­го де­ти мо­гут иг­рать в по­пу­ляр­ную мо­биль­ную иг­ру Honour of Kings.-

Newspapers in Russian

Newspapers from Russia

© PressReader. All rights reserved.