La cen­sure au ser­vice de L’IA

L'Informaticien - - SOMMAIRE - STÉ­PHANE LAR­CHER

Dans la tor­peur es­ti­vale, une in­for­ma­tion dé­voi­lée par Reuters est pas­sée re­la­ti­ve­ment in­aper­çue. Deux chat­bots chi­nois ont dû être re­ti­rés de la cir­cu­la­tion puis «ré­édu­qués» avant d’être re­mis en ser­vice. La cause est que ces deux chat­bots te­naient des pro­pos pour le moins « in­con­ve­nants » sur le ré­gime po­li­tique chi­nois. In­ter­ro­gé sur le fait de sa­voir s’il ai­mait le Par­ti com­mu­niste chi­nois, le ro­bot Ba­byQ, pour­tant con­çu lo­ca­le­ment, s’est fen­du d’un la­co­nique «Non», qui a cer­tai­ne­ment très mal ré­son­né aux oreilles du Pré­sident Xi Jinping et de son en­tou­rage. Qui plus est après que le Ré­gime a mis en place de nou­velles formes de contrôle et cen­sure. D’autres exemples du même aca­bit ont été ré­vé­lés, no­tam­ment le fait que le chat bot se per­met te d’ ex­pli­quer« qu’ un ré­gime aus­si cor­rom­pu et inu­tile ne pour­rait sur­vivre long­temps ». Son ho­mo­logue, dé­ve­lop­pé par Mi­cro­soft – XiaoBing –, ne s’est pas mon­tré plus «gra­cieux», ex­pli­quant que son plus cher dé­sir était… de quit­ter la Chine pour se rendre aux États-Unis. Bien évi­dem­ment, les deux « fé­lons» nu­mé­riques ont été re­ti­rés de la cir­cu­la­tion et dû­ment ré­édu­qués avant d’être ren­voyés sur le ré­seau. Aux der­nières nou­velles, il se com­por­te­raient dé­sor­mais de ma­nière «rai­son­nable». Mais, le plus in­té­res­sant dans tout ce­la, c’est que cette cen­sure pour­rait don­ner un avan­tage si­gni­fi­ca­tif aux dé­ve­lop­peurs chi­nois dans leurs travaux sur l’Intelligence artificielle. En ef­fet, jus­qu’à main­te­nant, ces chat­bots de­vaient ap­prendre à par­ler et à ré­pondre aux in­ter­nautes en pro­gres­sant dans leurs ré­ponses grâce à l’in­ter­ac­tion avec les uti­li­sa­teurs. Mais dans le contexte d’une cen­sure, le ro­bot doit al­ler plus loin et prendre en consi­dé­ra­tion les règles de vie ; en l’es­pèce, une ab­sence to­tale de toute contes­ta­tion sur le fonc­tion­ne­ment du ré­gime, des ins­ti­tu­tions, des di­ri­geants. C’est en tout cas ce que pense Wang Qin­grui, ana­lyste à Pé­kin, ci­té par nos confrères. «En­sur­face,il s’ agit d’ une res­tric­tion sur l’ intelligence artificielle, mais ce­la pousse en fait l’I A à un ni­veau su­pé­rieur .» Au­tant dire que la cen­sure est bonne pour la Science… Il y a fort à pa­rier que cer­tains fran­chi­ront le pas ! Avant le sou­lè­ve­ment des ma­chines.

Newspapers in French

Newspapers from France

© PressReader. All rights reserved.