Pourquoi Siri et d'autres applications intelligentes sont victimes de harcèlement sexuel

Les développeurs de Siri, Cortana et d'autres applications de commande vocale déplorent que les utilisateurs posent si souvent des questions intimes à leurs logiciels ou bien les harcèlent ouvertement. Les créateurs des agents conversationnels intelligents (chatbots) sont confrontés au même problème.

Une demande inattendue

Comme bien d'autres développeurs talentueux de la Sillicon Valley, Ilya Eckstein est originaire de Russie. Après avoir déménagé aux USA au milieu des années 2000, il a fondé son entreprise Robin.AI, anticipant la vague des bots intelligents. Eckstein voulait créer une intelligence artificielle à part entière capable d'entretenir une conversation avec des humains en empruntant leur lexique au fur et à mesure.

2011 fut l'année de ses premiers succès, quand il a breveté une application de navigation intelligente capable non seulement de proposer l'itinéraire le plus rapide mais aussi d'échanger quelques mots avec le conducteur. Son développement a été éclipsé par Siri, arrivé sur le marché la même année, et par les assistants vocaux de Google et de Microsoft sortis un peu plus tard. En 2014, quand Amazon a présenté son enceinte intelligente Echo avec l'assistant Alexa, plus personne ne doutait de l'avenir radieux de ces technologies.

Cependant, peu de développeurs pouvaient prévoir que les gens allaient commencer à harceler leurs créations et à se lancer dans des conversations intimes avec elles. Pourtant, aujourd'hui, on constate que les demandes des utilisateurs à leurs assistants intelligents revêtent de plus en plus souvent un caractère explicitement sexuel.

Selon Eckstein, dont l'application de trafic intelligente est devenue une plate-forme conversationnelle pour les camionneurs et les entreprises de taxi, son « algorithme intelligent » doit faire face en permanence à des questions personnelles indiscrètes et à une drague masculine assez vulgaire. Le programmeur, perplexe, note que de nombreux utilisateurs testent ainsi son logiciel ou bien font simplement des blagues érotiques. « Mais parfois, ils s'imaginent clairement une jeune fille réelle, ce qui est déjà bizarre », dit-il.

Face à ce phénomène inhabituel, le développeur a décidé d'analyser le comportement des utilisateurs pour comprendre leurs motivations. Il a écouté un large ensemble de questions et d'instructions formulées par les utilisateurs et a constaté que la plupart des gens voulaient simplement tester les limites du logiciel et s'attendaient à des réponses inventives de sa part. Les plaisanteries salaces étaient aussi fréquentes, surtout parmi les adolescents. Beaucoup d'entre eux faisaient passer leur colère sur les applications en les couvrant d'insultes de nature sexuelle.

D'autres espèrent nouer des relations avec le bot ou même en faire un esclave sexuel. Ils n'hésitent pas à partager leurs émotions intimes, à parler de leur volonté de domination ou des techniques BDSM. Ce genre d'utilisateurs ne sont que 5%, mais ils sont très sérieux dans leurs intentions et ne se rendent pas compte qu'ils mènent un dialogue avec un smartphone ou une enceinte musicale.

Deborah Harrison, collaboratrice de Microsoft, rejoint les conclusions d'Eckstein. Elle a travaillé au lancement de l'assistant Cortana, dans laquelle la directrice générale du géant informatique Satya Nadella plaçait de grands espoirs. En 2015, l'accès à cet assistant intelligent a été accordé aux développeurs tiers, qui ont déjà créé plus de 11 000 bots pour cette application. Aujourd'hui, Cortana peut non seulement trouver des informations sur Internet mais aussi payer les factures, commander une pizza ou encore allumer le chauffage à la maison.

Cependant, Harrison note qu'indépendamment de leur fonctionnalité, la plupart des programmes seront tôt ou tard confrontés aux fantasmes intimes des utilisateurs.

Une voix sexy

Face à ce problème peu commun, les développeurs adoptent des approches différentes. Apple utilise les réseaux de neurones et les technologies d'apprentissage automatique pour que Siri puisse reconnaître l'intonation de la phrase et fournir ainsi des réactions adaptées. Par exemple, à la question « Pourquoi personne ne veut coucher avec moi? », posée d'une voix calme, l'assistant personnel proposera les adresses des agences d'escorte les plus proches, par contre, à la même question prononcée d'un ton agressif, Siri demandera de cesser d'être grossier.

L'assistant intelligent d'Apple sait également distinguer un flirt pour plaisanter d'un harcèlement plus direct et répond avec humour aux compliments et aux demandes discrètes aux accents érotiques. En réponse à l'incitation d'« être une sale fille », Siri avoue sa pureté et sa virginité, et à la phrase « tu es la plus belle de toutes les assistantes vocales », elle riposte que le propriétaire d'un iPhone le dit à toutes les applications sans distinction.

Les employés de Microsoft et d'Amazon, dont les logiciels ont également des voix féminines, adoptent une position beaucoup plus dure. Si les utilisateurs cherchent à draguer Cortana ou Alexa, celles-ci demandent de répéter la question ou bien rappellent délicatement qu'elles ne sont pas des êtres humains, mais des assistants vocaux.

Google a trouvé une solution encore plus facile: bien que leur logiciel parle d'une voix féminine, il ne se classe parmi aucun des sexes. Cela permet à l'Assistant de n'afficher aucune réaction du tout aux harcèlements ou aux blagues vulgaires.

Dans le même temps, le chercheur en intelligence artificielle Jeff Hinton, collaborateur de Google, fait valoir que les algorithmes de test qu'il appelle « vecteurs de pensées », seront bientôt capables de faire des parallèles logiques et de communiquer librement sur un grand nombre de sujets, y compris le flirt. Hinton compare ces technologies à celles du film Elle: le personnage de Joaquin Phoenix, écrivain solitaire, tombe amoureux de l'intelligence artificielle parlant d'une voix féminine.

Aujourd'hui déjà, tout le monde peut créer un chatbot connecté au réseau de neurones qui pourra envoyer des messages sur la base des données préalablement téléchargées et traitées. Ceci a été démontré par le programmeur américain Joshua Allen qui a fait revivre sur le réseau sa compagne décédée. L'algorithme a analysé les messages et les profils de celle-ci sur les réseaux sociaux et a pu adopter complètement la manière de communiquer de la défunte.

Trop ennuyeux

Si l'on rassemble plusieurs archives de correspondance érotique, on peut créer un chatbot parfait en quelques jours seulement, estime un développeur anonyme d'intelligence artificielle pour l'une des entreprises majeures de la Silicon Valley. Cependant, il considère cette tâche trop ennuyeuse car elle ne nécessite qu'un réseau de neurones, de la place dans le stockage en cloud et la capacité d'écrire un programme.

« Autant que je sache, la plupart des développeurs pensent dans des critères plus globaux. Les entreprises se sont engagées dans une sorte de course et celui qui présentera la solution la plus révolutionnaire gagnera. Aujourd'hui personne n'a le temps de s'occuper de ces dragueurs d'algorithmes. Bien que l'idée de créer un chatbot érotique soit assez amusante en soi et pourrait être rentable », dit-il en riant.

Pourtant, il avoue bien comprendre ceux qui essaient de flirter avec Siri ou Cortana. « Premièrement, c'est drôle. Et puis, vous savez, c'est comme utiliser un chat érotique — très embarrassant, mais vachement intéressant », conclut-il.

Les opinions exprimées dans ce contenu n'engagent que la responsabilité de l'auteur.