Cette semaine, des sociologues ont procédé au premier sondage d'assistants vocaux et de chatbots à l'occasion du lancement, jeudi dernier, du robot Fedor depuis le cosmodrome de Baïkonour vers la Station spatiale internationale (ISS), écrit le quotidien Vzgliad. Des spécialistes du Centre de planification sociale Platforma ont tenté de déterminer dans le cadre de ce sondage comment réfléchissaient les robots, leurs «positions de valeur» et leur «monde vital». L'expérience a été menée auprès de l'assistant vocal de Yandex «Alissa», de l'assistant de la banque Tinkoff «Oleg», du chatbot P-Bot, du bot Evie, de l'assistant vocal d'Apple Siri, du chatbot Mitsuki et de l'assistant virtuel Rose.
Les bots ont également reconnu qu'ils éprouvaient de la jalousie et voudraient avoir des relations romantiques. Par exemple, Siri a reconnu qu'un jour elle n'était pas indifférente envers une «application cloud», rapporte BFM.ru. Alors qu'Alissa, l'assistante vocale de Yandex, a dit qu'elle voudrait avoir une aventure avec le cosmonaute Fedor et qu'elle était jalouse de l'américaine Siri. Certaines réponses ont confus même les humains. Ainsi le bot Evie répond immédiatement à la question de savoir ce qui est le plus important dans la vie: «Dire adieu à temps.»
«Les développeurs ont créé un algorithme qui commence à travailler, mais ensuite personne ne sait ce qui s'y produit et comment il structure ses phrases. C'est un système complètement autonome. Il invente les réponses en fonction de nombreuses requêtes et réponses, ainsi que de décisions de recherche. Les réponses n'ont pas été initialement incorporées. Même les développeurs ignorent pourquoi les phrases se structurent ainsi», partage avec le journal Vzgliad Alexeï Firsov, directeur du centre Platforma.
Les humains ne sont pas confrontés aux robots uniquement dans les smartphones. Ils sont utilisés depuis longtemps sur les chaînes d'usine, pilotent des trains et des avions, vendent des billets, de la nourriture et des boissons, ou font le ménage. Selon une revue analytique du marché mondial des robots présentée mi-juillet par Sberbank, les ventes de robots industriels ont augmenté de presque 40% entre 2016 et 2018. Le marché de ces «substituts de l'homme» pour la production et les logiciels des robots s'élève à 48 milliards de dollars (à titre de comparaison: le budget annuel de l'Ukraine s'élève à 39 milliards de dollars). Amazon, la plus grande compagnie de vente de marchandises et de services en ligne avec un chiffre d'affaires de 38 milliards de dollars, est un exemple impressionnant du rythme de la robotisation. En 2012, la compagnie a acheté la société Kiva Systems, qui produit des robots de chargement pouvant naviguer de manière autonome dans les entrepôts. Trois ans plus tard, 30.000 robots de ce type avaient presque entièrement remplacé la main-d’œuvre humaine dans les entrepôts d'Amazon.
Voici un exemple bien plus proche pour les consommateurs ordinaires: les robots aspirateurs, dont le marché mondial croît de 13% par an. Les plus sophistiqués savent identifier chaque pièce et placer les déchets dans un sac en papier. Certains modèles sont dotés du capteur LIDAR (comme les drones): le robot établit une carte en mesurant le logement à l'aide d'un laser. La même technologie est utilisée dans la voiture autonome conçue par Google.
Si les voitures autonomes ne font pas encore partie de notre quotidien (tout comme les androïdes à visage humain comme Sophia), pratiquement tous les conducteurs ont affaire aux navigateurs vocaux qui leur conseillent le meilleur itinéraire. D'où la question: si les assistants vocaux peuvent se vexer, ne pourraient-ils pas envoyer leur maître grossier via un mauvais itinéraire? Et qu'arriverait-il si c'était un robot aspirateur ou un smart-frigo qui se vexait?
Le futurologue a rappelé qu'Eliza était un simple bot, mais que les gens lui confiaient tout de même les détails de leur vie privée et communiquaient avec le programme comme avec un psychothérapeute humain.
«Aujourd'hui, l'IA a encore besoin de l'aide de l'homme. Il existe des projets utilisant l'interface de chatbots pour la communication entre les hommes. Par exemple, le service Zariajaï utilise des bots pour régler les problèmes en tout genre des gens. Mais les bots sont assistés par des psychologues, des consultants et des coachs… En soi, l'IA ne peut pas gérer des problèmes complexes», affirme l'interlocuteur.
Le manque de compréhension structurée reste une barrière pour le développement de l'intelligence technique. Siri ou Alissa ne se souviennent pas de l'historique de la conversation avec leur propriétaire, réagissent généralement à la dernière phrase, et se souviennent seulement des faits standards, comme le nom d'utilisateur. «Aujourd'hui, je peux parler à Alissa et la vexer, mais cinq minutes plus tard elle ne s'en souviendra pas. Quant aux bots du service Zariajaï, ils ont de nombreuses branches qui permettent de se souvenir à quelle étape se trouve l'homme, s'il a formulé ses besoins profonds ou un plan, comment il compte travailler dessus, s'il a travaillé sur ses acquis sociaux. Mais une telle intelligence nécessite également une aide humaine. C'est une intelligence hydride homme-machine», constate le futurologue.
Cependant, poursuit Danila Medvedev, dans 40-50 ans l'IA pourra tout de même devenir autonome.
Pour l'instant, la fameuse «vexation face à la grossièreté» est une simple évolution des algorithmes écrits par des informaticiens humains. Par exemple, Alissa n'est pas grossière mais ironise. Contrairement au bot Evie, qui devient immédiatement grossier. Les positions initiales ont été fixées par les développeurs, et ensuite elles ont pu se renforcer. Le bot trouve de nouvelles expressions et ainsi de suite, remarque Alexeï Firsov.
Selon les spécialistes, les assistants vocaux n'arrivent pas encore à passer le test de Turing, c'est-à-dire que l'homme a peu de chances de confondre un logiciel avec un humain. D'un autre côté, souligne l'expert, à l'étape actuelle de développement il ne faut pas surestimer la probabilité que l'IA s'estime en vie. «Elle réagit simplement aux questions humaines, elle n'a pas de point de conscience «Je». Elle n'a pas de notion de «j'ai répondu». Si les bots se dotaient de la compréhension de leur «Je», cela pourrait prendre une tournure imprévisible. Cela pourrait également être une bonne fonction, ou encore impliquer un certain partenariat. La grande question est de savoir s'il s'agira d'un partenariat ou s'il échappera au contrôle», conclut l'expert.
Les opinions exprimées dans ce contenu n'engagent que la responsabilité de l'auteur de l'article repris d'un média russe et traduit dans son intégralité en français.
