Publicité

Les assistants vocaux : gadget intrusif pour les uns, avenir du numérique pour les autres

Par
Les assistants vocaux promettent d'améliorer notre interaction avec le monde numérique mais le passage du visuel à la voix pose aussi des questions éthiques et concernant la sécurité des données (ici l'enceinte Google Home).
Les assistants vocaux promettent d'améliorer notre interaction avec le monde numérique mais le passage du visuel à la voix pose aussi des questions éthiques et concernant la sécurité des données (ici l'enceinte Google Home).
© Getty - Future Publishing

Les industriels veulent faire de la voix notre nouvelle façon d’interagir avec nos équipements électroniques via les assistants vocaux et autres enceintes connectées. En France, le marché commence à décoller mais des voix s'élèvent pour protéger notre vie privée.

Amazon Alexa, Google Assistant, Apple Siri… Ces noms d’assistants vocaux sonnent familièrement à beaucoup d’oreilles désormais et ils feront sans doute partie des idées de cadeaux pour Noël. En France, le grand public peut les utiliser depuis 2011 avec Siri sur téléphones et tablettes mais la véritable avancée a eu lieu en 2017 avec l’arrivée des premières enceintes connectées. Ces dispositifs promettent de simplifier nos échanges et pourraient même constituer un progrès en matière d’inclusion numérique, notamment pour les personnes les moins à l’aise avec ces technologies. Mais dans le livre blanc qu’elle a publié début septembre, la CNIL insiste aussi sur les problèmes éthiques posés par ces nouvelles technologies. L’autorité chargée de la protection de nos données et de notre vie privée fait une série de recommandations, avant que nos usages n’aient vraiment évolué. "L'un des risques, c'est que les gens adoptent aveuglément de nouvelles technologies, sans en évaluer l'impact avant de les utiliser", a expliqué à l'AFP il y a quelques jours David Reichel, l'un des auteurs d'un rapport de l'Agence européenne des droits fondamentaux (FRA) sur l'intelligence artificielle.

Le pari de la voix

Les industriels n’ont de cesse d’imaginer des moyens de fluidifier les interactions entre l’Homme et la machine. Et dans cette course à l’outil intuitif, la voix fait figure de nouvel horizon même si, en France, les usages ne progressent pas si vite. D’après la CNIL, à l’été 2019, on comptait environ 1,7 million d’assistants vocaux sur enceintes connectées et une utilisation de l’assistant vocal du smartphone par 16 à 20 millions d’utilisateurs en France. Dans le monde, on estime à 3 milliards le nombre d’assistants vocaux, tous supports confondus et le Cabinet Roland Berger en prévoit 8 milliards en 2023.

Publicité

Sur la durée, les usages demeurent discrets mais ils sont en hausse, passant de 26 à 29% des internautes pour les assistants vocaux entre 2018 et 2019 et doublant quasiment pour les enceintes connectées : de 5 à 9% sur la même période. Dans un autre rapport publié en mai 2019, la Hadopi et le CSA insistent aussi sur la satisfaction des personnes déjà équipées : 53% en parlent comme d’une "vraie innovation" qui va "révolutionner le quotidien".

Les industriels savent aussi que les nouvelles habitudes restent à créer car pour l’instant, le premier usage sur une enceinte connectée consiste à demander la météo (78%), à rechercher une information (73%) ou à écouter de la musique, la radio, raconter une blague ou écouter les informations (65%). Les principaux obstacles au développement de ces nouvelles technologies sont le sentiment d’inutilité qu’éprouvent toujours de nombreux Français vis-à-vis de ces dispositifs mais également les craintes sur la sécurité des données personnelles. Ainsi, seuls un tiers des utilisateurs font des achats en ligne via leur enceinte et seuls 30% dictent leurs mails ou SMS ; des usages considérés comme plus “intrusifs”.

À l’avenir pourtant, la CNIL anticipe de nombreuses applications, quitte à faire preuve d’imagination : déploiement d’assistants vocaux dans les arrêts de bus pour demander son itinéraire, lancement de "chatbot" (robots de discussion) pour trier les patients avant de les orienter vers de vrais médecins, assistants orientant les chômeurs chez Pôle emploi ou vente de robots de compagnie pour les personnes âgées ou isolées...

59 min

Risques et recommandations

Mais avec son livre blanc, la CNIL insiste aussi sur les risques posés par ces nouveaux usages. Du point de vue juridique, la voix est d’ailleurs considérée comme une donnée personnelle et à ce titre est protégée par le RGPD, le Règlement général sur la protection des données adopté en 2016 au Parlement européen et entré en vigueur en 2018. 

Il faut dire que les régulateurs et les utilisateurs ont des raisons de se méfier. En 2017, des chercheurs chinois avaient montré que des assistants vocaux de téléphone pouvaient être piratés par des ultrasons inaudibles pour l'Homme en utilisant la technique dite de la "dolphin attack". Ils avaient activé ces appareils à distance et avaient su passer un appel et ouvrir une page internet... Une façon peu coûteuse de prendre le contrôle d'un appareil et qui pourrait permettre de télécharger un virus ou de passer des commandes non désirés. Le journal Les Échos rapporte aussi qu'en 2016 une fillette américaine avait commandé par erreur une maison de poupée et des cookies en discutant avec l'assistant vocal d'Amazon... Coût : 250 euros ! 

Pour afficher ce contenu Youtube, vous devez accepter les cookies Publicité.

Ces cookies permettent à nos partenaires de vous proposer des publicités et des contenus personnalisés en fonction de votre navigation, de votre profil et de vos centres d'intérêt.

Vidéo : en 2017, la technique de la "dolphin attack" permettait de donner des instructions à l'assistant vocal d'un téléphone grâce à des ultrasons inaudibles pour l'Homme.

Plus drôle, en 2017, un épisode du dessin animé South Park avait réussi à activer des milliers d'assistants en leur donnant des ordres complètements absurdes. Cartman, l'un des personnages, avait utilisé le mot clef "Ok Google" et "Alexa" pour passer une liste de course complètement loufoque, demandant d'ajouter "des gros seins, des grosses boules velues" ou encore des "chips aux nichons"... 

Plus récemment, une enquête publiée par Bloomberg avait révélé qu'Amazon employait des milliers de salariés pour écouter les utilisateurs d'Alexa afin d'améliorer le logiciel de conversation de son intelligence artificielle. Amazon s'était défendu en affirmant que ces données étaient traitées de façon confidentielle mais ces informations étaient toutefois reliées au numéro de compte, au prénom de l'utilisateur et au numéro de série de l'appareil, expliquait le rapport du cabinet Roland Berger en 2019.

Pour afficher ce contenu Twitter, vous devez accepter les cookies Réseaux Sociaux.

Ces cookies permettent de partager ou réagir directement sur les réseaux sociaux auxquels vous êtes connectés ou d'intégrer du contenu initialement posté sur ces réseaux sociaux. Ils permettent aussi aux réseaux sociaux d'utiliser vos visites sur nos sites et applications à des fins de personnalisation et de ciblage publicitaire.

Tweet montrant une instruction donnée par un personnage de la série South Park demandant d'ajouter des "chips aux nichons" (sic) à la liste des courses d'Alexa.

Dans son livre blanc publié en septembre 2020, la CNIL recommande ainsi d'éteindre son assistant vocal pour éviter qu'il ne s'active de façon inopportune ; l'idéal étant qu'une enceinte soit équipée d'un bouton pour l'allumer ou l'éteindre (contrairement à d'autres qui s'activent à la voix et qui sont donc en veille permanente). L'autorité s'inquiète aussi d'une "monétisation de l'intime" que peuvent entraîner ces équipements : le profil publicitaire des utilisateurs peut en effet s'enrichir de l'heure de lever des habitants d'un foyer, de leurs goûts en matière de musique, d'achats ou de réglage du chauffage, etc.

Une question éthique se pose également concernant les réponses apportées par une enceinte connectée. Alors qu'un moteur de recherche affiché sur un écran apporte de nombreux résultats, une enceinte connectée ne peut donner qu'une réponse unique, voire deux ou trois, mais jamais plus. Il y a donc un risque de renforcement de positions dominantes de la part des services qui arrivent en première place lors d'une recherche : ceux qui sont les mieux référencés ou ont signé des contrats avec Amazon, Google ou Apple. 

Si rien n'était fait, le succès des assistants vocaux pourrait s'accompagner d'un enfermement des utilisateurs dans leurs achats et leur consommation de contenus et constituerait une atteinte au pluralisme de l'offre. Face à ce risque, des initiatives sont lancées, comme les législations européennes "Digital Market Act (DMA)" et "Digital Services Act (DSA)" présentées par la Commission européenne ce mercredi 15 décembre et qui sont défendues notamment par Thierry Breton, commissaire européen au Marché intérieur. L'une des mesures vise à empêcher les "plateformes systémiques" de profiter de leur position dominante en privilégiant leurs propres services aux dépens d'autres entreprises, plus modestes. Cette initiative est saluée par l'Autorité de la concurrence en France. Les enjeux sont donc économiques mais aussi culturels et démocratiques.

1h 32