Algorithmes autoritaires

Combien de fois vous a-t-on déjà répondu: «le système ne me le permet pas», alors que vous aviez soumis une requête pourtant pleine de bon sens au personnel d'une entreprise? Récemment à Zurich, j'ai commandé un oeuf à la coque en supplément lors de mon brunch dominical. L'oeuf n'étant jamais sorti de la cuisine, j'ai demandé à annuler cette partie de ma commande après une heure d'attente. On m'a expliqué que cela n'était pas possible, car elle ne pouvait plus être supprimée du système une fois un certain délai passé. J'ai donc reçu mon oeuf en même temps que l'addition.

Au nom d'une logique de rationalisation, les systèmes algorithmiques limitent progressivement la liberté d'action des employés. Aux étages inférieurs de la hiérarchie, l'humain ne fait souvent plus que suivre le script qui lui est imposé. Lorsque nous appelons une hotline pour modifier une réservation de vol, pour résoudre un problème technique lié à un appareil ou pour obtenir des informations sur une facture téléphonique, nous sommes de plus en plus souvent confrontés à des systèmes entièrement scénarisés, dans lesquels l'opérateur en chair et en os n'est qu'un vecteur permettant aux machines de communiquer. Dans de nombreux cas, cela signifie effectivement des gains d'efficacité, un nombre d'erreurs réduit et un service de qualité supérieure. Mais dans certaines situations, la solution préprogrammée ne fonctionne pas en pratique.

Au printemps passé, un incident à bord du vol United Express #3411 nous permettait d'entrevoir un type de dérives qui pourraient se multiplier dans le futur. Pour rappel, le vol en question était surréservé, mais la compagnie ne s'en est rendu compte qu'une fois tous les passagers à bord. Après avoir cherché sans succès quatre volontaires prêts à débarquer de l'appareil en échange d'une compensation financière, le maître de cabine a suivi la procédure définie pour ce genre de cas et a mis en oeuvre un algorithme qui a désigné quatre passagers tirés au sort, alors obligés de quitter l'appareil. Trois ont obtempéré, mais le quatrième a expliqué qu'il était médecin et que des patients l'attendaient dans le Kentucky. Le refus d'obéir aux ordres de l'équipage étant considéré comme un délit, la police a été appelée pour faire sortir le passager de force. Le refus de ce dernier de se soumettre aux directives des forces de l'ordre a engendré une arrestation musclée suivie d'une indignation générale sur les réseaux sociaux devant le traitement réservé à ce pauvre homme, blessé dans l'opération.

Cette logique de systématisation est en passe d'être déployée à plus grande échelle avec l'arrivée des smart contracts («contrats intelligents») basés sur la blockchain, renversant la logique des mécanismes d'exécution traditionnels. Aujourd'hui, les parties restent libres de leurs actions même une fois un contrat conclu. Si l'une décide de ne pas respecter ce qui a été décidé, l'autre peut intenter une action en justice afin de faire respecter son droit. Un smart contract, lui, déroule ses processus automatiquement en fonction de la survenance d'événements prédéfinis. Pour éviter des conséquences indésirables, la programmation d'une logique d'arbitrage sera clé: il faudra permettre à un team leader – et à défaut à un arbitre ou à un juge – d'intervenir afin de proposer une solution non standard à un problème dont l'issue s'annonce défavorable.

Récemment en partance de l'aéroport d'Heathrow, je vidais péniblement mes poches sur le comptoir du café Leon afin de régler une boisson chaude que je venais de commander. Voyant qu'il me manquait quelques pennies et que j'allais sortir ma carte de crédit, l'employé m'a interrompu en me tendant ma tasse: «Ne vous en faites pas, je vous offre la différence.» Les leaders du marché de demain ne seront peut-être pas ceux cherchant l'efficacité à tout prix; c'est en accordant une certaine marge de manoeuvre à leurs employés qu'ils se distingueront à l'avenir de leurs concurrents trop rigides.

▅