Le traçage de contacts et la fracture numérique
La lutte contre la COVID-19 nous plonge dans une crise qui bouleverse nos certitudes. Est-ce que cette crise va modifier notre façon de vivre et notre rapport aux autres ? Le Devoir a demandé à différentes personnalités de réfléchir aux conséquences de la pandémie dans nos vies. Cette réflexion vous sera présentée en page Idées pendant quelques semaines. Aujourd’hui : Anne-Sophie Letellier et les technologies de traçage de contacts.
Le 18 mai 2020, l’Institut québécois de l’intelligence artificielle (MILA) lançait COVI, une application mobilisant des fonctionnalités GPS, le traçage de contacts au moyen de Bluetooth et de l’intelligence artificielle, afin d’accompagner la population québécoise et la population canadienne dans leur déconfinement.
Si le MILA vient tout juste d’entrer dans une campagne marketing auprès de la population, les réflexions quant au rôle que pourraient jouer les technologies numériques dans les stratégies de déconfinement sont présentes depuis de nombreuses semaines. Il va sans dire que les débats quant à leurs usages, leur pertinence et leur dimension éthique sont polarisants. En outre, on relève principalement des enjeux relatifs à leur efficacité réelle ainsi qu’aux risques qui imposent légitimement une prudence quant à la sécurité de l’information et à la protection de la vie privée.
Il est clair que les concepteurs et les critiques de ces solutions technologiques partagent un objectif commun : celui de se sortir du confinement et de la pandémie vite et mieux. Néanmoins, les débats actuels restent fondamentalement ancrés dans les enjeux juridiques et le design des applications. Si ces préoccupations sont absolument nécessaires, il n’en reste pas moins qu’il importe de se questionner sur les biais sociaux que ces applications pourraient reproduire, et qu’elles pourraient rendre invisibles sous le couvert de processus technologiques trop souvent perçus comme « objectifs » et garants de la sécurité des Québécois.
Une efficacité qui n’a pas été prouvée
Avec cela en tête, je considère que la prudence, la diversité des expertises et l’humilité — quant aux possibilités, aux limites et aux risques inhérents aux applications proposées — sont absolument nécessaires pour structurer un débat de société éclairé et constructif. Rappelons-nous que, même si elle est prometteuse et comporte de nombreuses fonctionnalités intéressantes, le déploiement de n’importe quelle application de traçage numérique s’inscrit d’abord et avant tout dans une phase de test.
C’est pourquoi, bien que je salue sincèrement l’effort d’inclure avec rigueur et attention plusieurs considérations relativement à la protection de la vie privée, à la sécurité de l’information et à l’anonymisation dans le design de COVI, je suis sceptique quant à sa fiabilité et à son utilité réelle mais, surtout, j’éprouve une profonde inquiétude à ce qu’elle — ou toute autre application — soit présentée et promue comme une pièce maîtresse des stratégies de déconfinement.
Pour légitimer le développement et le déploiement d’applications de traçage de contacts, on évoque communément les critères de l’efficacité et de l’intérêt général. Alors que l’efficacité n’en est encore qu’à un stade théorique, il semble qu’on tende implicitement vers certains biais, comme celui d’exclure du « général » les intérêts des groupes sociodémographiques les plus touchés par la pandémie : les personnes âgées, les travailleurs et travailleuses essentiels, les individus et familles en situation de précarité financière, ainsi que les communautés culturelles, qui sont surreprésentées dans les quartiers les plus défavorisés de Montréal.
Parmi ces biais, on peut souligner que le projet de développement d’une application mobile assume nécessairement qu’une large portion de la population possède un téléphone intelligent. Or, les données du CEFRIO démontrent que seulement 73 % des Québécois en possèdent. Chez les personnes âgées de 55 à 64 ans et celles âgées de 65 ans et plus, le taux d’adoption est respectivement de 59 % et 37 %. Finalement, seulement 53 % des individus gagnant moins de 20 000 $ annuellement possèdent un téléphone intelligent.
Selon une étude de l’Université d’Oxford, une application de traçage de contacts, pour fonctionner adéquatement, doit être utilisée par au moins 60 % de la population, sans quoi les risques de faux négatifs —c’est-à-dire les risques qu’on nous annonce à tort un niveau de risque bas — sont particulièrement élevés. La marge de manoeuvre est très mince. L’enjeu de la fracture numérique est donc central au débat.
Le risque d’un modèle épidémiologique biaisé
Dans son livre blanc, MILA indique que, même si le taux d’adoption est trop faible pour prédire le risque de façon efficace, l’application permettrait d’amasser des données épidémiologiques précieuses. Les données recueillies à l’aide de l’application permettraient de mieux comprendre les facteurs qui contribuent à la transmission de la maladie « afin d’informer les politiques de santé publiques ».
La condition de récolte des données lève le voile, à nouveau, sur un phénomène de marginalisation systémique. Dans un contexte où l’histoire de l’intelligence artificielle est déjà truffée de biais raciaux, socio-économiques et de genre, les informations sur lesquelles se baseraient les directions de santé publique pour prendre des décisions et allouer des ressources contribueraientelles à creuser les inégalités et à rendre davantage vulnérables des groupes disproportionnellement touchés par la pandémie ? Cette question se pose au moment où plusieurs indiquent déjà un besoin urgent de récolter des données liées à la couleur de peau et au profil socio-économique des victimes de la COVID-19.
Cependant, des groupes tels que Data for Black Lives notent que la simple récolte de données n’est pas suffisante et qu’elle doit également les contextualiser afin de documenter comment les inégalités ont un impact non seulement sur la propagation du virus, mais aussi sur la réponse de la Santé publique dans différentes communautés.
Ainsi, advenant qu’elles fonctionnent, les applications de traçage de contacts pourraient seulement accompagner le déconfinement d’une partie de la population. Une portion de la population qui possède un téléphone intelligent, qui a déjà le privilège de pouvoir se confiner sans trop de conséquences et qui peut éviter de fréquenter quotidiennement des zones à risque. Alors que la pandémie exacerbe déjà les inégalités sociales, on nous présente une « solution » qui tend à s’inscrire dans cette lignée. Au mieux, COVI ne profiterait qu’à une portion de la population en faisant très peu pour les plus vulnérables et, au pire, elle contribuerait à créer un faux sentiment de sécurité face à des réalités qui passeraient sous le radar. Elle risquerait ainsi d’être contre-productive pour veiller à la santé et à la sécurité générale.
Une solution construite par ou avec les communautés (et non pour elles)
Si les derniers mois nous ont démontré une chose, c’est qu’en situation de crise, nous faisons preuve d’une solidarité sociale renouvelée. Cette solidarité doit nous inspirer à penser des solutions — qu’elles soient technologiques ou non — qui mettent avant tout en avant les besoins exprimés par les communautés les plus touchées. Les préoccupations liées aux injustices sociales ne doivent pas être intégrées à une application ou à une stratégie de déconfinement, elles doivent constituer la priorité de nos réflexions et de nos actions.
Si une application numérique venait à être sélectionnée, il ne serait donc pas suffisant qu’elle soit inclusive : sa conception et sa gouvernance devraient être fondées sur une diversité des savoirs et des expertises. Elle devrait enfin s’inscrire de manière cohérente dans le déploiement d’une variété de stratégies, et surtout de ressources, ancrées dans les besoins et la réalité des communautés afin que leurs intérêts soient efficacement défendus.