L'histoire du développeur qui aurait dû lire Kant

A l’origine, la confession d’un développeur américain du nom de Paul Sourour publiée sur le site Medium. Dans cet article intitulé “ Le code dont j’ai encore honte”, Paul Sourour raconte que dans les années 2000, alors qu’il était jeune programmeur, il a été engagé par une entreprise de marketing canadienne, dont les principaux clients étaient des laboratoires pharmaceutiques. La loi canadienne étant assez stricte sur la publicité pour les médicaments, et interdisant la promotion directe d’un traitement, le site se présentait comme une plateforme d’information et fabriquait des quizz qui, quand les internautes y répondaient, les orientaient vers tel ou tel traitement en fonction des réponses. Paul Sourour se voit confié la fabrication d’un quizz à destination des jeunes filles. Toutes les spécifications lui sont données par son entreprise, il n’a qu’à écrire le programme. Ceci fait, il s’aperçoit que, quelles que soient les réponses, on ne tombe que sur un seul médicament. Mais ça ne le gêne pas. Il a fait le travail pour lequel il est payé et le client est ravi. Mais un collègue lui envoie un article racontant le suicide d’une jeune fille, attribué manifestement aux effets secondaires de la prise de ce médicament. Paul Sourour découvre à cette occasion que ce traitement est répertorié comme ayant des effets secondaires puissants. Sachant qu’il a été prescrit à sa petite soeur, il l’appelle pour qu’elle cesse de le prendre, ce qu’elle fait. Peu après, il démissionne, et enterre cette histoire. Si Paul Sourour y revient aujourd’hui, c’est parce qu’il constate la place prise par les programmes informatiques dans notre vie de tous les jours et que les développeurs sont devenus “la dernière défense contre des pratiques dangereuses et n’obéissant à aucune éthique”. Il invite donc les programmeurs à faire en sorte que leur code respecte non seulement la loi, mais l’éthique.

Etonnamment, cet article a beaucoup circulé dans le monde des technologies, il a été partagé à plus de 30 000 reprises ces derniers jours, et, surtout, il a provoqué d’innombrables confessions de la part de programmeurs qui, sur Reddit ou Hacker News, se sont mis à raconter des expériences similaires. L’un raconte raconte qu’on lui a demandé d’utiliser, pour faire circuler les informations des clients, des ondes radio qui étaient réservées aux urgences (parce qu’elles étaient moins encombrées, évidemment). Un autre explique qu’il a été payé pour voler des lignes de code du concurrent ; un autre encore pour falsifier des bilans financiers d’entreprises clientes par des tours de passe-passe informatiques. Etc.

La première réaction serait de voir là des cas tout à fait classiques de conflits éthiques auxquels il arrive que certains professionnels soient confrontés : en quoi cela se différencie-t-il d’un dilemme auquel peut être confronté une comptable ou un publicitaire ?

Eh bien, il y en a peut-être une, qui tient à ce qu’est devenu le code informatique dans nos sociétés. En 2000, le grand juriste de Harvard Lawrence Lessig publiait un texte visionnaire devenu très vite un classique de la littérature sur le numérique. Intitulé “Code is law”, “l e code, c’est la loi”, ce texte posait que, du fait de l’informatisation croissante de nos sociétés, le programme informatique était amené à faire loi ; ce serait des programmes informatiques, des architectures techniques, des protocoles, qui allaient nous dicter ce qu’il serait possible ou de ne pas faire dans ce que Lessig appelait encore le “cyberespace”... mais on était en 2000. Le cyberespace est devenu notre monde. Ce sont des algorithmes qui répartissent les élèves dans les lycées parisiens, ce sont d’autres programmes qui décident des informations que l’on peut ou pas partager dans les réseaux sociaux, et de la manière dont elles nous arrivent. Tous ces programmes, à leur manière, font loi. Facebook est en quelque sorte une juridiction à laquelle se soumettent volontiers un milliard et demi d’utilisateurs.

Lessig place le problème sur un plan politique : “Si c’est le code qui détermine nos valeurs, ne devons-nous pas intervenir dans le choix de ce code ?”, et il en appelle aux institutions pour intervenir. C’est sans doute nécessaire, mais ça ne règle pas le problème de nos développeurs. Je pense que dans ces cas-là, il faut en revenir aux classiques, et au “Fondement de la métaphysique des moeurs” d’Emmanuel Kant. Ainsi, je propose que chaque ligne de code soit examinée à l’aune de la première formulation de l’impératif catégorique : “Agis de telle sorte que la maxime de ta volonté puisse toujours valoir en même temps comme principe d’une législation universelle. » Et hop, c’est réglé.