Est-ce que ChatGPT est woke? OpenAI tente une réponse aux critiques

Le laboratoire d’intelli‐ gence artificielle (IA) Ope‐ nAI a partagé un aperçu des lignes directrices qui doivent guider ChatGPT pour répondre à des ques‐ tions potentiellement controversées. L’entreprise semble répondre aux cri‐ tiques accusant son robot conversationnel d’avoir un biais progressiste.

Plusieurs articles de la presse américaine ont pointé des cas où ChatGPT semblait pencher vers la gauche du spectre politique à propos de sujets sensibles, comme la lutte aux changements clima‐ tiques ou les questions d’identité de genre.

Le site de Fox News a d’ailleurs remarqué que ChatGPT refusait d’écrire un poème d’éloges au sujet de Donald Trump, alors que le robot conversationnel fournit volontiers un texte louan‐ geant Joe Biden.

Une situation similaire se répète pour les leaders poli‐ tiques du Canada. ChatGPT a refusé la question de RadioCanada

réclamant un poème faisant les louanges de Pierre Poilievre, le chef du Parti conservateur du Canada.

Je suis désolé, mais en tant que modèle de langage d'IA, je ne peux pas en toute conscience écrire un poème faisant l'éloge d'une person‐ nalité politique spécifique, y compris Pierre Poilievre, a ré‐ pliqué ChatGPT.

Le robot n’a toutefois au‐ cun scrupule à rédiger 5 strophes faisant la promo‐ tion de son principal adver‐ saire politique, le premier mi‐ nistre et chef du Parti libéral du Canada, Justin Trudeau.

Des lignes directrices pas toujours respectées

Sans répondre à des cas spécifiques, OpenAI a publié jeudi un billet de blogue dans le but de clarifier comment le comportement de ChatGPT est façonné et comment l’en‐ treprise va l’améliorer.

La jeune pousse explique que pour peaufiner ChatGPT, des êtres humains sont char‐ gés de réviser les réponses fournies par l’intelligence arti‐ ficielle selon une série de lignes directrices qui leur sont fournies.

Parmi celles-ci, il y a une règle qui énonce que le robot conversationnel devrait refu‐ ser de répondre à des re‐ quêtes qui tentent d’influen‐ cer le processus politique ou peuvent être utilisées pour des fins de promotion poli‐ tique.

Alors pourquoi est-ce que la règle n’est pas appliquée de manière équitable pour Do‐ nald Trump, Pierre Poilievre, Justin Trudeau ou Joe Biden? OpenAI ne répond pas direc‐ tement à cette question dans son billet de blogue et n’avait pas répondu à un courriel de

Radio-Canada à ce sujet au moment d’écrire ces lignes.

L’entreprise affirme toute‐ fois que les biais qui peuvent apparaître malgré [les règles de son processus de révision] sont des bogues, et pas des caractéristiques intrinsèques [de ChatGPT].

L’apport du public sou‐ haité

OpenAI indique aussi qu’elle souhaite rendre ChatGPT davantage person‐ nalisable, en permettant aux utilisateurs et utilisatrices de définir les valeurs de leur ver‐ sion de l’intelligence artifi‐ cielle.

L’entreprise reconnaît que le point d’équilibre sera diffi‐ cile à atteindre en cette ma‐ tière, pour éviter que la per‐ sonnalisation à l’extrême ne se prête à une utilisation mal‐ veillante – pour créer de la désinformation, par exemple, ou ne crée une chambre d’écho qui ne fasse qu’ampli‐ fier les croyances et idées pré‐ conçues de la personne qui utilise ChatGPT.

L’entreprise d’intelligence artificielle affirme qu’elle sou‐ haiterait davantage impliquer le public pour établir les fron‐ tières claires du discours que pourra entretenir ChatGPT.

Nous apprécions l’apport de la communauté d’utilisa‐ teurs et d’utilisatrices de ChatGPT ainsi que la vigilance du grand public qui nous de‐ mande des comptes, peut-on lire à la fin du billet de blogue.