Ce que préconise la convention citoyenne sur les usages de l’IA par les services publics de la Métropole de Montpellier

question », explique Arthur Dupuy, 27 ans, l’un des porte-parole de la convention citoyenne.

L’agent, l’usager et l’IA

Autres préoccupations : le souci de l’impact environnemental de l’IA ainsi que la protection de la vie privée des citoyens et le contrôle sur leurs données personnelles. Outre l’anonymisation des données pour l’apprentissage des algorithmes et le non-croisement de celles jugées sensibles (comme la santé et la situation financière, par exemple), la convention citoyenne recommande ainsi l’installation d’un comité d’éthique. Consulté en amont de chaque projet important d’IA, il serait composé exclusivement d’experts et de citoyens, sans représentants politiques.

Autre point primordial pour les participants à la convention citoyenne, la transparence en cas d’usage d’une l’IA : l’usager doit systématiquement être prévenu. Pour garantir la totale maîtrise des données utilisées pour entraîner l’IA, la convention citoyenne suggère également la création d’un data-center dédié à la Métropole ou de privilégier des data-centers locaux.

« Il est important de mettre en place une équipe IA au sein même de la collectivité, on ne peut pas prendre le risque de prendre un prestataire extérieur qui pourrait mettre la clé sous la porte », estime Arthur Dupuy.

Pour Anne Noyer-Burdloff, également porte-parole de la convention citoyenne, « l’IA doit avant tout rester un outil, et l’usager ne doit pas être seul face à elle. Il doit toujours y avoir un opérateur. De la même manière, la décision finale doit toujours être prise par un humain ».

Information et formation

Le dernier point de vigilance soulevé par l’avis de la convention citoyenne porte sur l’accessibilité de l’IA à tous, par le déploiement d’importantes campagnes d’information et de formation des citoyens. « Beaucoup de gens entendent parler de l’IA mais ne savent pas ce que c’est, or on a naturellement peur de ce que l’on ne connaît pas. Nous aimerions que la Métropole porte ce sujet de l’IA à l’échelle nationale an passant par l’Éducation nationale », confie Anne Noyer-Burdloff.

Si l’IA risque de modifier en profondeur certains métiers de la fonction publique, jusqu’au risque de les voir disparaître en tant que tel, « elle est aussi, grâce à la formation, vecteur de nouveaux métiers et la Métropole doit accompagner cette transition. Pas de mise au placard donc mais une réorganisation du quotidien des agents publics », insiste Arthur Dupuy.

Vers une traduction opérationnelle de l’avis

Du côté de la Métropole, les élus Manu Reynaud et Séverine Saint-Martin ont suivi pas à pas les travaux de cette première convention citoyenne.

« Nous allons dans un premier temps répondre point par point à cet avis pour ensuite le traduire en une réalité opérationnelle, rien ne sera mis sous le tapis, promet Manu Reynaud, délégué à la Ville numérique et Intelligente. Ce genre de démarche a du sens lorsque le sujet demande du temps pour y réfléchir et échanger. Cela apporte de la légitimation au sujet. L’avis est une photographie à l’instant T, le regard sur l’IA va continuer à évoluer. »

Une IA qui est souvent un sujet controversé, souligne Séverine Saint-Martin, déléguée au Renouveau démocratique et à l’innovation sociale : « Le démarrage de la convention citoyenne a coïncidé avec le lancement de Chat GPT. Les quarante participants ont pu mesurer, grâce à leurs échanges, l’intérêt de son utilisation si elle est respectueuse et transparente. Leur approche a été pragmatique et confiante tout en étant humainement très attentive à la situation des agents qui vont être en première ligne. Ils ont également été attentifs à ce que cela n’accentue pas la fracture numérique des citoyens ».

Cet avis va servir de base de travail en vue de l’élaboration de la stratégie Data et IA de la collectivité, qui sera soumise au vote des élus lors du conseil de Métropole le 4 juin prochain. ▰