Amazon emploie des milliers de personnes pour écouter ce que les gens du monde entier disent à leur assistante numérique Alexa, d'après ce qui est sûr d'être un rapport inspirant pour les audiences du Congrès Bloomberg, cite sept personnes qui ont travaillé sur le programme.
Alors que leur travail consiste à "aider à améliorer" NSAlexa - qui alimente la gamme de haut-parleurs Echo de l'entreprise - l'équipe "écoute les enregistrements vocaux capturés dans les maisons et les bureaux des propriétaires d'Echo", qui sont ensuite transcrits, annotés et renvoyés dans le logiciel afin d'améliorer la compréhension qu'Alexa a du langage humain et de faciliter les interactions. En d'autres termes, les humains aident efficacement à former l'algorithme d'Amazon.
Dans les documents marketing, Amazon dit qu'Alexa "vit dans le nuage et devient toujours plus intelligente." Mais comme beaucoup d'outils logiciels conçus pour tirer des leçons de l'expérience, les humains font une partie de l'enseignement. - Bloomberg
L'équipe d'écoute est composée d'entrepreneurs à temps partiel et d'employés à temps plein d'Amazon répartis dans le monde entier, notamment en Inde, en Roumanie, à Boston et au Costa Rica.
Les auditeurs travaillent par quarts de neuf heures, chacun passant en revue jusqu'à 1000 extraits audio par quart de travail, selon deux employés du bureau d'Amazon à Bucarest, situé dans les trois étages supérieurs de l'immeuble Globalworth de la capitale roumaine. L'emplacement "se détache au milieu de l'infrastructure délabrée" du quartier de Pipera et "ne porte aucune enseigne extérieure annonçant la présence d'Amazon".
Bien qu'une grande partie du travail soit ennuyeux (un travailleur a dit que son travail consistait à extraire des données vocales accumulées pour des phrases spécifiques telles que "Taylor Swift" - faire savoir au système que le chercheur cherchait l'artiste), les critiques écoutent aussi les moments les plus personnels des gens.
Parfois, les auditeurs entendent des choses que les propriétaires d'Echo préfèrent garder pour eux : une femme qui chante mal sous la douche, par exemple, ou un enfant qui crie à l'aide. Les équipes utilisent des forums de discussion internes pour partager des fichiers lorsqu'elles ont besoin d'aide pour analyser un mot confus ou pour trouver un enregistrement amusant. - Bloomberg
Parfois, les auditeurs amazoniens font face à des enregistrements boulversants ou possiblement d'activités illégales - par exemple, deux travailleurs qui disent avoir écouté ce qui ressemblait à une agression sexuelle.
Selon le rapport, lorsque de telles choses se produisent, les travailleurs en parlent dans le salon de discussion interne pour "soulager le stress".
Et bien qu'Amazon affirme qu'elle a des procédures à suivre lorsque des travailleurs entendent des choses pénibles, deux des employés basés en Roumanie disent qu'on leur a dit "que ce n'était pas le travail d'Amazon d'intervenir" lorsqu'ils demandaient des conseils pour de tels cas.
"Nous prenons au sérieux la sécurité et la confidentialité des informations personnelles de nos clients ", a déclaré un porte-parole d'Amazon dans une déclaration fournie à Bloomberg.
"Nous n'annotons qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Par exemple, cette information nous aide à former nos systèmes de reconnaissance vocale et de compréhension du langage naturel, afin qu'Alexa puisse mieux comprendre vos demandes et s'assurer que le service fonctionne bien pour tous ", poursuit l'énoncé. "Nous avons des garanties techniques et opérationnelles strictes et une politique de tolérance zéro pour les abus de notre système. Les employés n'ont pas d'accès direct à l'information permettant d'identifier la personne ou le compte dans le cadre de ce flux de travail. Toutes les informations sont traitées avec la plus grande confidentialité et nous utilisons l'authentification multifactorielle pour restreindre l'accès, le cryptage du service et les audits de notre environnement de contrôle pour le protéger."
Cela dit, Amazon ne mentionne pas le fait que des humains écoutent des enregistrements de certaines conversations captées par Alexa. Au lieu de cela, ils ont un avertissement générique dans leur FAQ qui dit "Nous utilisons vos demandes à Alexa pour former nos systèmes de reconnaissance vocale et de compréhension du langage naturel."
Ce qu'Amazon enregistre
Selon les conditions d'utilisation d'Alexa d'Amazon, l'entreprise recueille et stocke la plupart de ce que vous dites à Alexa - y compris la géolocalisation du produit ainsi que vos instructions vocales, a rapporté Todd Haselton de CNBC en novembre dernier.
Vos messages, demandes de communication (p. ex. "Alexa, appeler maman") et instructions connexes sont des "interactions Alexa", telles que décrites dans les Conditions d'utilisation d'Alexa. Amazon traite et conserve vos interactions Alexa et les informations connexes dans le nuage afin de répondre à vos demandes (par exemple, "Envoyer un message à maman"), de fournir des fonctionnalités supplémentaires (par exemple, la transcription de la parole au texte et vice versa) et d'améliorer nos services. - Conditions d'utilisation d'Amazon
Alexa, are you spying on me ?
— Wrong, Brian (@leonidasmoderus) 25 mai 2018
Alexa : *coughs* No, of course not.
En mai dernier, un Amazon Echo a enregistré une conversation entre un mari et sa femme, puis l'a envoyée à l'un des contacts téléphoniques du mari. Amazon prétend qu'au cours de la conversation, quelqu'un a utilisé un mot qui ressemblait à "Alexa", ce qui a fait que l'appareil a commencé à enregistrer.
Echo s'est réveillé à cause d'un mot dans une conversation de fond qui ressemblait à "Alexa", a dit Amazon dans une déclaration. "Ensuite, la conversation suivante a été entendue comme une demande d'envoi d'un message. À ce moment-là, Alexa a dit à haute voix : "À qui ? À ce moment-là, la conversation en arrière-plan a été interprétée comme un nom dans la liste de contacts du client. Alexa a ensuite demandé à haute voix, '[nom du contact], n'est-ce pas ? Alexa a ensuite interprété la conversation en arrière-plan comme une " bonne " conversation. Aussi improbable que soit cette série d'événements, nous évaluons des options pour rendre cette affaire encore moins probable."
L'épouse, Danielle, a cependant dit que l'Echo ne lui avait jamais demandé la permission d'envoyer l'audio. Au début, mon mari m'a dit : " Non, vous ne l'avez pas fait ", a dit Danielle à KIRO7. " Et il dit : "Tu étais assis là à parler de planchers de bois. Et nous avons dit : "Oh mon Dieu, tu l'as vraiment fait !"
Pouvez-vous désactiver ?
Alexa permet aux gens de cesser de partager leurs enregistrements vocaux pour le développement de nouvelles fonctionnalités, alors qu'une capture d'écran examinée par Bloomberg révèle que les enregistrements fournis aux auditeurs d'Alexa ne fournissent pas le nom ou l'adresse complète d'un utilisateur. Il lie toutefois l'enregistrement à un numéro de compte, au prénom de l'utilisateur et au numéro de série de l'appareil.
"Vous ne pensez pas nécessairement à un autre être humain qui écoute ce que vous dites à votre interlocuteur intelligent dans l'intimité de votre maison", a déclaré Florian Schaub, professeur à UMich, qui a étudié les questions de confidentialité liées aux enceintes intelligentes. "Je pense que nous avons été conditionnés par l'hypothèse que ces machines ne font que de la magie. Mais le fait est qu'il y a toujours un traitement manuel."
"La question de savoir s'il s'agit ou non d'un problème de confidentialité dépend de la prudence d'Amazon et d'autres entreprises quant au type d'informations qu'elles ont annotées manuellement et de la façon dont elles les présentent à quelqu'un ", ajoute M. Schaub.
Source : Zerohedge
Informations complémentaires :
Crashdebug.fr : Menaces numériques – Votre domicile est-il exposé ?
Crashdebug.fr : Le « big data » ou la recette secrète du succès d'Emmanuel Macron ?
