Сто­ит ли опа­сать­ся ис­кус­ствен­но­го ин­тел­лек­та

Те­ку­щая вол­на раз­ви­тия ис­кус­ствен­но­го ин­тел­лек­та — са­мая мно­го­обе­ща­ю­щая. Но он еще страш­но да­лек от уров­ня мыш­ле­ния че­ло­ве­ка. И вряд ли ко­гда-ли­бо до­го­нит его

Ekspert - - ПЕРВАЯ СТРАНИЦА -

Встре­чая зна­ко­мо­го, мы по­чти мгно­вен­но его узна­ем. Ком­пью­те­ры то­же на­учи­лись это­му. Че­му еще их мож­но на­учить? Эн­д­рю Эн­джи из Baidu счи­та­ет искус­ствен­ный ин­тел­лект но­вым элек­три­че­ством, ко­то­рое из­ме­нит об­лик ци­ви­ли­за­ции. Так ли это? Мо­жет ли ИИ из­ме­нить мир так же силь­но, как элек­три­че­ство?

Больше искус­ствен­ный, чем ум­ный

Фа­на­ты ком­пью­тер­ной на­у­ки недав­но ра­до­ва­лись оче­ред­ной победе: про­грам­ма AlphaGo обыг­ра­ла силь­ней­ше­го в ми­ре иг­ро­ка в го — по­жа­луй, са­мую слож­ную иг­ру на све­те. По­сле этого раз­ра­бот­чи­ки со­зда­ли бо­лее со­вер­шен­ную про­грам­му AlphaGo Zero, ко­то­рая вы­иг­ра­ла у пер­вой вер­сии се­бя са­мой сто мат­чей из ста, а у вто­рой — во­семь­де­сят де­вять из ста. Осо­бен­но­стью про­грам­мы ста­ло то, что она учи­лась не на ре­аль­ных пар­ти­ях, сыг­ран­ных людь­ми (как де­ла­ли преды­ду­щие вер­сии), а иг­ра­ла са­ма с со­бой (ис­поль­зо­ва­лось обу­че­ние с под­креп­ле­ни­ем). Что­бы на­учить­ся играть, как сверх­че­ло­век, ей по­тре­бо­ва­лось все­го три дня.

Но поз­во­ля­ют ли но­вые успе­хи го­во­рить, что ИИ ско­ро до­го­нит есте­ствен­ный ин­тел­лект и в осталь­ном? Смо­гут

ли ма­ши­ны оце­ни­вать свои дей­ствия, при­ни­мать са­мо­сто­я­тель­ные ре­ше­ния, осуществлять мо­раль­ный вы­бор? И во­об­ще, кор­рект­но ли в прин­ци­пе срав­ни­вать ИИ и ин­тел­лект жи­во­го ор­га­низ­ма?

Еще в 1980 го­ду аме­ри­кан­ский фи­ло­соф Джон Сёрл про­де­мон­стри­ро­вал мыс­лен­ный экс­пе­ри­мент «Ки­тай­ская ком­на­та», по которому среди спе­ци­а­ли­стов до сих пор нет кон­сен­су­са. Сёрл пред­ло­жил нам пред­ста­вить, как он, не зная ки­тай­ско­го язы­ка, на­хо­дит­ся в за­кры­той ком­на­те и по­лу­ча­ет от на­блю­да­те­ля, вла­де­ю­ще­го ки­тай­ским, иеро­гли­фы с во­про­са­ми. Сёрл за­гля­ды­ва­ет в ин­струк­цию, где на­пи­са­но: «Ес­ли вы ви­ди­те иеро­глиф A, по­ло­жи­те иеро­глиф B ря­дом с иеро­гли­фом C», — и, ни­че­го не по­ни­мая, фак­ти­че­ски да­ет от­вет, ко­то­рый но­си­те­лю ки­тай­ско­го ка­жет­ся вполне осмыс­лен­ным. Ки­та­ец мо­жет по­ду­мать, что пе­ред ним че­ло­век, по­ни­ма­ю­щий иеро­гли­фы. Но это не де­ла­ет Сёр­ла зна­то­ком ки­тай­ско­го: он по-преж­не­му не зна­ет иеро­гли­фов и мо­жет лишь раз­ли­чать их по фор­ме.

Вы­де­ля­ют два ти­па ис­кус­ствен­но­го ин­тел­лек­та: силь­ный и сла­бый. Силь­ный ИИ — это ком­пью­тер­ный ра­зум, близ­кий к че­ло­ве­че­ско­му, спо­соб­ный осо­зна­вать са­мо­го се­бя. Та­кой ИИ фак­ти­че­ски учит­ся язы­ку, как учит­ся

ре­бе­нок. Сла­бый — это ма­ши­на с эле­мен­та­ми ИИ, не на­де­лен­ная со­зна­ни­ем, но уме­ю­щая вы­пол­нять ути­ли­тар­ные за­да­чи. Та­кой ИИ обу­чен ис­поль­зо­вать язык, не зная его.

Со­вре­мен­ный пе­ри­од раз­ви­тия ис­кус­ствен­но­го ин­тел­лек­та озна­ме­но­вал­ся спо­ром о воз­мож­но­сти и необ­хо­ди­мо­сти со­зда­ния силь­но­го ИИ. В 2011 го­ду все­мир­но из­вест­ный линг­вист Но­ам Хом­ски вы­сту­пил на сим­по­зи­у­ме Мас­са­чу­сет­ско­го тех­но­ло­ги­че­ско­го ин­сти­ту­та, где рас­кри­ти­ко­вал ста­ти­сти­че­ский под­ход к изу­че­нию язы­ка, ле­жа­щий в ос­но­ве важ­ных на­прав­ле­ний раз­ви­тия ИИ — ма­шин­но­го пе­ре­во­да и рас­по­зна­ва­ния ре­чи. Со­глас­но это­му под­хо­ду, ком­пью­тер мо­жет ста­ти­сти­че­ски вы­чис­лить, ка­кой бу­дет сле­ду­ю­щая сло­во­фор­ма в пред­ло­же­нии, ос­но­вы­ва­ясь на со­бран­ном мас­си­ве дан­ных (на­при­мер, из ин­тер­не­та). При этом ма­шине не нуж­но знать пра­вил грам­ма­ти­ки или зна­че­ний слов. Хом­ски утвер­ждал, что ста­ти­сти­че­ская мо­дель неэф­фек­тив­на в изу­че­нии язы­ка, по­сколь­ку насто­я­щее зна­ние кро­ет­ся в че­ло­ве­че­ской при­ро­де и непод­власт­но ма­шине. Ста­ти­сти­че­ские мо­де­ли мо­гут точ­но смо­де­ли­ро­вать неко­то­рые яв­ле­ния, но их ме­ха­низм в корне неве­рен. Лю­ди не опре­де­ля­ют, ка­ким бу­дет сле­ду­ю­щее сло­во в пред­ло­же­нии, све­ря­ясь с таб­ли­цей.

В от­вет на вы­ступ­ле­ние Хом­ски ди­рек­тор по ис­сле­до­ва­ни­ям Google Пи­тер Но­рвиг опуб­ли­ко­вал в сво­ем бло­ге ста­тью, в ко­то­рой воз­ра­зил, что ста­ти­сти­че­ский ме­тод уже ак­тив­но ис­поль­зу­ет­ся во всех успеш­ных про­грам­мах ИИ, свя­зан­ных с изу­че­ни­ем язы­ка. Но­рвиг ука­зал, что се­го­дня бла­го­да­ря это­му ме­то­ду со­зда­ют­ся устрой­ства, ко­то­рые ра­бо­та­ют и про­да­ют­ся. Что ка­са­ет­ся на­у­ки, то у нас нет дру­го­го спо­со­ба фор­ма­ли­зо­вать и вы­яс­нить при­ро­ду ве­щей, вклю­чая язык, мыш­ле­ние, со­зна­ние и ра­бо­ту моз­га че­ло­ве­ка, по­это­му по­ка при­хо­дит­ся огра­ни­чи­вать­ся ста­ти­сти­че­ским ме­то­дом.

Дис­кус­сия Хом­ски и Но­рви­га — вечный спор меж­ду уче­ным и пред­при­ни­ма­те­лем. Хом­ски вы­сту­па­ет с по­зи­ции линг­ви­ста и фи­ло­со­фа: природа че­ло­ве­ка по­ка непо­зна­ва­е­ма, и по­пыт­ки ее фор­ма­ли­за­ции бес­смыс­лен­ны. У Но­рви­га же­лез­ный ар­гу­мент ка­пи­та­ли­ста: ста­ти­сти­че­ская мо­дель при­но­сит несколь­ко трил­ли­о­нов дол­ла­ров в год, а до­ход от тео­рий Хом­ски не до­сти­га­ет и мил­ли­о­на.

Хом­ски ука­зы­ва­ет на невоз­мож­ность со­зда­ния силь­но­го ИИ, но се­го­дня он и не в приоритете: боль­шин­ство ком­па­ний-раз­ра­бот­чи­ков стре­мит­ся раз­вить сла­бый ИИ, ко­то­рый поз­во­лит им уве­ли­чить при­быль. Силь­ный ИИ оста­ет­ся пред­ме­том об­суж­де­ний фу­ту­ро­ло­гов и фи­ло­со­фов как один из воз­мож­ных сце­на­ри­ев раз­ви­тия че­ло­ве­че­ства. Невоз­мож­но пред­ска­зать, бу­дет ли он ре­а­ли­зо­ван. Про­цесс мыш­ле­ния уко­ре­нен в нерв­ной си­сте­ме че­ло­ве­ка, а это да­ет ос­но­ва­ния по­ла­гать, что силь­ный ИИ дол­жен ос­но­вы­вать­ся на жи­вой суб­стан­ции (на­при­мер, на ге­не­ти­че­ски мо­ди­фи­ци­ро­ван­ном ор­га­низ­ме). А вот воз­мож­ность пе­ре­ве­сти процессы жи­во­го ор­га­низ­ма в би­нар­ную ло­ги­ку вы­зы­ва­ет со­мне­ния. В ко­неч­ном сче­те код ДНК к ло­ги­ке 0/1 не сво­дит­ся. Жи­вой суб­стан­ции свой­ствен­на неопре­де­лен­ность, а неопре­де­лен­ность про­ти­во­ре­чит прин­ци­пу пред­ска­зу­е­мо­сти ИИ.

Оль­га Ус­ко­ва: «Имен­но в

же­ле­зе сей­час огра­ни­че­ния,

по­сколь­ку необ­хо­ди­мы

бо­лее со­вер­шен­ные си­сте­мы

хра­не­ния дан­ных»

Ав­то­ма­ти­за­ция плюс

Ко­гда ком­пью­тер HAL 9000 из ро­ма­на Ар­ту­ра Клар­ка и экра­ни­за­ции Ст­эн­ли Куб­ри­ка «2001 год: Кос­ми­че­ская одис­сея» по­нял, что аст­ро­нав­ты со­би­ра­ют­ся его отключить, он под­нял бунт и на­чал их уби­вать, что ста­ло неожи­дан­но­стью

для всех чле­нов экипажа. По­доб­но на­сто­я­ще­му че­ло­ве­ку, ком­пью­тер осо­знал цен­ность сво­ей жизни и при­нял­ся бо­роть­ся за нее, вме­сто то­го что­бы слу­жить че­ло­ве­ку.

Нам по­ка бес­по­ко­ить­ся не о чем. По мне­нию спе­ци­а­ли­стов в об­ла­сти ИИ, на со­вре­мен­ном эта­пе раз­ви­тия со­по­став­лять искус­ствен­ный и че­ло­ве­че­ский ра­зум по од­ной шка­ле не­кор­рект­но. «Ма­ши­ны во мно­гом опе­ре­ди­ли че­ло­ве­ка по вы­чис­ли­тель­ной мощ­но­сти, по ско­ро­сти, си­ле. Но че­ло­век осо­зна­ет окру­жа­ю­щий мир и спо­со­бен быть адек­ват­ным в этом ми­ре, — счи­та­ет Кон­стан­тин Во­рон­цов, про­фес­сор МФТИ и НИУ ВШЭ. — Искус­ствен­ный ин­тел­лект по­ка что ре­ша­ет уз­кие за­да­чи. Мы еще да­ле­ки от то­го, что на­зы­ва­ет­ся силь­ным ИИ».

Схо­жую точ­ку зре­ния вы­ска­зы­ва­ет и ге­не­раль­ный ди­рек­тор ком­па­нии SocialDataHub Ар­тур Ха­чу­ян: «В мо­ем по­ни­ма­нии, искус­ствен­ный ин­тел­лект — это ис­кус­ствен­ное со­зна­ние, цифровая ко­пия че­ло­ве­ка, что-то осо­знан­ное, что мо­жет от­ве­чать на во­про­сы, ос­но­вы­ва­ясь на соб­ствен­ном опы­те, вос­по­ми­на­ни­ях, зна­ни­ях. Все, что сей­час на­зы­ва­ет­ся ис­кус­ствен­ным ин­тел­лек­том, по­ка что яв­ля­ет­ся про­сто ав­то­ма­ти­за­ци­ей плюс».

С рос­сий­ски­ми спе­ци­а­ли­ста­ми со­гла­ша­ют­ся и за­ру­беж­ные ис­сле­до­ва­те­ли. Про­фес­сор Бо­лон­ско­го уни­вер­си­те­та Джо­ван­ни Ко­рац­ца вы­ра­зил мнение, что имен­но че­ло­век дол­жен ра­бо­тать над тем, что свя­за­но с кре­а­тив­но­стью. «ИИ дол­жен за­ни­мать­ся бо­лее ру­тин­ны­ми за­да­ча­ми. Эф­фек­тив­ность, с ко­то­рой ИИ их вы­пол­ня­ет, недо­сти­жи­ма для че­ло­ве­ка», — объ­яс­нил он. Уче­ный от­да­ет пред­по­чте­ние сла­бо­му ИИ и ви­дит будущее в нем.

Во­круг сла­бо­го ИИ се­го­дня ца­рит шу­ми­ха. Ком­па­нии за­ча­стую ис­поль­зу­ют этот тер­мин для про­дви­же­ния сер­ви­сов, ко­то­рые в дей­стви­тель­но­сти не име­ют от­но­ше­ния к ИИ. Как за­ме­ча­ет Ар­тур Ха­чу­ян, в ве­ду­щих ком­па­ни­ях ис­кус­ствен­ным ин­тел­лек­том ча­сто на­зы­ва­ют обыч­ные скрип­ты — на­при­мер, те, ко­то­рые по шаб­ло­ну ге­не­ри­ру­ют бух­гал­тер­ские до­ку­мен­ты. ИИ же устро­ен го­раз­до слож­нее.

Сей­час он ас­со­ци­и­ру­ет­ся в первую оче­редь с глу­бо­ки­ми ней­ро­се­тя­ми, пы­та­ю­щи­ми­ся ими­ти­ро­вать ра­бо­ту моз­га че­ло­ве­ка. Пер­вые ней­ро­се­ти по­яви­лись еще в 1950-х го­дах, но то­гда из-за недо­ста­точ­ных вы­чис­ли­тель­ных мощ­но­стей не вышли за пре­де­лы ла­бо­ра­то­рий. Те­перь они ста­ли пол­но­цен­ной тех­но­ло­ги­ей. «Ней­ро­се­ти — это хайп, по­сколь­ку бла­го­да­ря им про­изо­шел про­рыв в ком­пью­тер­ном зре­нии, рас­по­зна­ва­нии ре­чи и других об­ла­стях», — объ­яс­ня­ет по­пу­ляр­ность тех­но­ло­гии Кон­стан­тин Во­рон­цов.

Фак­ти­че­ски ис­кус­ствен­ная ней­ро­сеть — это ма­те­ма­ти­че­ская мо­дель, пы­та­ю­ща­я­ся ими­ти­ро­вать име­ю­щи­е­ся у нас пред­став­ле­ния о ра­бо­те ре­аль­ных ней­ро­нов. Осо­бен­ность та­кой мо­де­ли в том, что она не про­сто про­грам­ми­ру­ет­ся, но спо­соб­на са­мо­обу­чать­ся. Искус­ствен­ный ней­рон пред­став­ля­ет со­бой функ­цию, ко­то­рая мо­жет при­ни­мать опре­де­лен­ные зна­че­ния (обыч­но 0 и 1). При этом глав­ны­ми в мо­де­ли яв­ля­ют­ся свя­зи меж­ду ней­ро­на­ми (си­нап­сы). Они мо­гут об­ла­дать так на­зы­ва­е­мы­ми ве­са­ми, то есть ха­рак­те­ри­сти­ка­ми, опре­де­ля­ю­щи­ми важ­ность той или иной свя­зи среди мно­же­ства других. Ма­те­ма­ти­че­ски ве­са мож­но пред­ста­вить в ви­де мат­ри­цы, ко­то­рая об­ра­ба­ты­ва­ет­ся ком­пью­те­ром в со­от­вет­ствии с за­дум­кой про­грам­ми­ста и ар­хи­тек­ту­рой кон­крет­ной се­ти.

Мо­ше Вар­ди, про­фес­сор Ин­сти­ту­та ин­фор­ма­ци­он­ных тех­но­ло­гий Уни­вер­си­те­та Рай­са (США), по­де­лил­ся с «Экс­пер­том»: «С на­ча­ла пя­ти­де­ся­тых лю­ди пы­та­лись ав­то­ма­ти­зи­ро­вать неко­то­рые за­да­чи. Ма­шин­ное обу­че­ние устро­е­но по прин­ци­пу то­го, как учат­ся лю­ди. Есть быст­рое и мед­лен­ное мыш­ле­ние. Быст­рое мыш­ле­ние — это, на­при­мер, рас­по­зна­ва­ние лиц. Мы узна­ем ли­цо че­ло­ве­ка очень быст­ро, не за­ду­мы­ва­ясь об этом. Мед­лен­ное мыш­ле­ние — это об­ду­мы­ва­ние от­ве­тов, ре­флек­сия и так да­лее. В по­след­нее вре­мя специалисты по ИИ пы­та­ют­ся на­учить ма­ши­ны имен­но быст­ро­му мыш­ле­нию. Ду­маю, по­след­ние пять-шесть лет са­мой по­пу­ляр­ной те­мой бы­ло глу­бо­кое обу­че­ние — осо­бая тех­ни­ка ма­шин­но­го обу­че­ния. Она по­яви­лась уже дав­но, но толь­ко сей­час ком­пью­те­ры на­ко­нец-то ста­ли до­ста­точ­но быст­ры­ми, а дан­ных ста­ло до­ста­точ­но мно­го. На­при­мер, что­бы на­учить ком­пью­тер рас­по­зна­вать фо­то­гра­фии, нуж­но мно­го фо­то­гра­фий с про­став­лен­ны­ми те­га­ми. И те­перь у нас есть Instagram».

У ней­рон­ных се­тей есть ряд огра­ни­че­ний. Так, для каж­дой за­да­чи тре­бу­ет­ся спе­ци­фич­ная сеть, бо­лее то­го, «тре­ни­ров­ка» се­ти долж­на учи­ты­вать осо­бен­но­сти кон­крет­ной за­да­чи. На­при­мер, ней­рон­ная сеть, за­то­чен­ная под рас­по­зна­ва­ние ру­ко­пис­но­го тек­ста, не смо­жет рас­по­зна­вать фо­то­гра­фии или зву­ки.

Опре­де­лен­ные огра­ни­че­ния есть и в ап­па­рат­ном обес­пе­че­нии: для рас­по­зна­ва­ния об­ра­зов тре­бу­ют­ся боль­шие вы­чис­ли­тель­ные мощ­но­сти и си­сте­ма хра­не­ния дан­ных. В Tesla счи­та­ют пер­спек­тив­ной тех­но­ло­гию об­лач­но­го хра­не­ния, од­на­ко не все раз­ра­бот­чи­ки со­глас­ны с та­ким ре­ше­ни­ем Ило­на Мас­ка. «Од­ной из са­мых слож­ных за­дач для ИИ яв­ля­ет­ся имен­но рас­по­зна­ва­ние об­ра­зов: при дви­же­нии ав­то­мо­би­ля важ­на каж­дая де­таль, на нее долж­на быть да­на адек­ват­ная ре­ак­ция. Чи­сто ал­го­рит­ми­че­ские под­хо­ды ушли в про­шлое. Се­го­дня ис­поль­зу­ют бо­лее со­вер­шен­ные тех­но­ло­гии — на­при­мер, кон­во­лю­ци­он­ные се­ти, раз­но­вид­ность ней­рон­ных се­тей. Все это тре­бу­ет се­рьез­ных вы­чис­ли­тель­ных мощ­но­стей и па­мя­ти. Имен­но в же­ле­зе есть огра­ни­че­ния, по­сколь­ку необ­хо­ди­мы бо­лее со­вер­шен­ные си­сте­мы хра­не­ния дан­ных. К со­жа­ле­нию, об­ла­ка не мо­гут ре­шить эти за­да­чи, кто бы что ни го­во­рил», — рас­ска­зы­ва­ет Оль­га Ус­ко­ва, пре­зи­дент ком­па­нии Cognitive Technologies, раз­ра­ба­ты­ва­ю­щей си­сте­мы ис­кус­ствен­но­го ин­тел­лек­та для бес­пи­лот­но­го транс­пор­та.

Ар­тур Ха­чу­ян: «Все что

сей­час на­зы­ва­ет­ся ис­кус­ствен­ным

ин­тел­лек­том,

по­ка что яв­ля­ет­ся ав­то­ма­ти­за­ци­ей

плюс»

Newspapers in Russian

Newspapers from Russia

© PressReader. All rights reserved.