Amazon met fin à une intelligence artificielle sexiste

Amazon, c'est le roi de l'automatisation : le groupe a décidé d'automatiser ses recrutements : Le géant du commerce en ligne emploie plus de 575 000 personnes dans le monde et a des besoins de recrutement énormes : l'année dernière par exemple il a embauché 130 000 salariés. 

En 2014, il a commencé à développer un système informatique pour passer en revue les CV envoyés par les candidats. L'intelligence artificielle leur attribuait une note allant de une à cinq étoiles. Sauf qu'au bout d'un an, Amazon s'est aperçue que les femmes étaient systématiquement moins bien notées pour les postes techniques comme développeur de logiciel. En fait, tous les curriculum vitae où apparaissait le mot "femme" étaient pénalisés.

Pour entraîner le logiciel, les chercheurs d'Amazon l'ont "nourri" avec les données de recrutement de l'entreprise entre 2004 et 2014. Sauf que, comme partout dans les entreprises de nouvelles technologies, les hommes y sont sur représentés. Le logiciel en a donc déduit qu'être un homme faisait parti des critères.

Un biais bien connu des chercheurs en intelligence artificielle, il faut faire très attention aux données sur lesquelles elles se construisent, sinon on reproduit les inégalités. Beaucoup de ces spécialistes alertent devant l'engouement pour l'utilisation de ces logiciels dans les ressources humaines.

Selon l'agence Reuters, à l'origine de ces révélations, l'intelligence artificielle de recrutement a fini par être abandonné il y a un an par Amazon. Aucune embauche n'aurait été réalisée uniquement avec ce logiciel.

Et si demain on payait notre nourriture en échange de données personnelles?

Vous souhaitez un cappuccino? Très bien, cela vous coûtera : votre nom, votre date de naissance, votre adresse mail, et puis votre numéro de téléphone. En vous remerciant!

Ce n'est malheureusement pas du tout de la fiction, c'est ce que propose une chaîne japonaise de café. Déjà présente également en Inde, elle vient d'ouvrir une enseigne à Providence aux Etats-Unis. Le Shiru Cafe est réservé aux étudiants. 

ll propose des boissons chaudes gratuites en échange de données personnelles, ce qui n'a d'ailleurs pas l'air de choquer cette étudiante américaine interviewée par la radio publique NPR : "De toute façon tout le monde a nos informations. Google sait tout de nous donc quand j'y pense donner mon nom et mon email, ce que j'étudie, cela ne me semble pas très risqué. Ce sont des informations que vous pouvez trouver sur mon profil Linked in". Les boissons sont en fait payées par des sponsors comme Microsoft ou Nissan qui récupèrent les données. La chaîne prévoit de s'implanter sur d'autres campus comme Princeton, Yale ou Harvard.