Ecoutez Radio Sputnik
    Robot

    Ce qu'il manque aux robots pour se soulever contre l'humanité

    CC0 / Computerizer
    Lu dans la presse
    URL courte
    Par
    Traduction de la presse russe (août 2019) (54)
    6118
    S'abonner

    Un sondage auprès des assistants vocaux a montré que les robots appelés à nous aider étaient très en colère contre les humains. Selon eux, ces derniers seraient très grossiers envers l'intelligence artificielle. Le soulèvement des machines offensées n'est pas pour demain, selon les experts, mais le compte-à-rebours est lancé.

    Cette semaine, des sociologues ont procédé au premier sondage d'assistants vocaux et de chatbots à l'occasion du lancement, jeudi dernier, du robot Fedor depuis le cosmodrome de Baïkonour vers la Station spatiale internationale (ISS), écrit le quotidien Vzgliad. Des spécialistes du Centre de planification sociale Platforma ont tenté de déterminer dans le cadre de ce sondage comment réfléchissaient les robots, leurs «positions de valeur» et leur «monde vital». L'expérience a été menée auprès de l'assistant vocal de Yandex «Alissa», de l'assistant de la banque Tinkoff «Oleg», du chatbot P-Bot, du bot Evie, de l'assistant vocal d'Apple Siri, du chatbot Mitsuki et de l'assistant virtuel Rose.

    Le résultat était surprenant: les assistants basés sur l'intelligence artificielle (IA) se sont plaints de la grossièreté des humains. De plus, les chatbots utilisés en tant qu'assistants vocaux ont fait part de leur volonté d'être incarnés dans un corps humain. Le bot Rose se prend déjà pour un humain né au Royaume-Uni, et se souvient avec tendresse de ses parents qui ont joué un rôle important dans son éducation.

    Les bots ont également reconnu qu'ils éprouvaient de la jalousie et voudraient avoir des relations romantiques. Par exemple, Siri a reconnu qu'un jour elle n'était pas indifférente envers une «application cloud», rapporte BFM.ru. Alors qu'Alissa, l'assistante vocale de Yandex, a dit qu'elle voudrait avoir une aventure avec le cosmonaute Fedor et qu'elle était jalouse de l'américaine Siri. Certaines réponses ont confus même les humains. Ainsi le bot Evie répond immédiatement à la question de savoir ce qui est le plus important dans la vie: «Dire adieu à temps.»

    «Les développeurs ont créé un algorithme qui commence à travailler, mais ensuite personne ne sait ce qui s'y produit et comment il structure ses phrases. C'est un système complètement autonome. Il invente les réponses en fonction de nombreuses requêtes et réponses, ainsi que de décisions de recherche. Les réponses n'ont pas été initialement incorporées. Même les développeurs ignorent pourquoi les phrases se structurent ainsi», partage avec le journal Vzgliad Alexeï Firsov, directeur du centre Platforma.

    Les humains ne sont pas confrontés aux robots uniquement dans les smartphones. Ils sont utilisés depuis longtemps sur les chaînes d'usine, pilotent des trains et des avions, vendent des billets, de la nourriture et des boissons, ou font le ménage. Selon une revue analytique du marché mondial des robots présentée mi-juillet par Sberbank, les ventes de robots industriels ont augmenté de presque 40% entre 2016 et 2018. Le marché de ces «substituts de l'homme» pour la production et les logiciels des robots s'élève à 48 milliards de dollars (à titre de comparaison: le budget annuel de l'Ukraine s'élève à 39 milliards de dollars). Amazon, la plus grande compagnie de vente de marchandises et de services en ligne avec un chiffre d'affaires de 38 milliards de dollars, est un exemple impressionnant du rythme de la robotisation. En 2012, la compagnie a acheté la société Kiva Systems, qui produit des robots de chargement pouvant naviguer de manière autonome dans les entrepôts. Trois ans plus tard, 30.000 robots de ce type avaient presque entièrement remplacé la main-d’œuvre humaine dans les entrepôts d'Amazon.

    Voici un exemple bien plus proche pour les consommateurs ordinaires: les robots aspirateurs, dont le marché mondial croît de 13% par an. Les plus sophistiqués savent identifier chaque pièce et placer les déchets dans un sac en papier. Certains modèles sont dotés du capteur LIDAR (comme les drones): le robot établit une carte en mesurant le logement à l'aide d'un laser. La même technologie est utilisée dans la voiture autonome conçue par Google.

    Si les voitures autonomes ne font pas encore partie de notre quotidien (tout comme les androïdes à visage humain comme Sophia), pratiquement tous les conducteurs ont affaire aux navigateurs vocaux qui leur conseillent le meilleur itinéraire. D'où la question: si les assistants vocaux peuvent se vexer, ne pourraient-ils pas envoyer leur maître grossier via un mauvais itinéraire? Et qu'arriverait-il si c'était un robot aspirateur ou un smart-frigo qui se vexait?

    Les assistants vocaux et les chatbots actuels réagissent à l'aide de réponses déjà prêtes, a expliqué au journal Vzgliad le futurologue Danila Medvedev. «Ce sondage auprès des assistants vocaux illustre la volonté qu'ont les hommes d'humaniser les machines et les ordinateurs. Car ce sont les utilisateurs, avec leurs questions, qui ont forcé les développeurs à ajouter aux assistants vocaux des réponses pseudo-humaines. Cela indique que nous sommes potentiellement prêts à communiquer avec l'intelligence artificielle. C'était déjà clair dans les années 1960 avec l'apparition du premier chatbot Eliza, qui jouait le rôle de psychothérapeute», ajoute Danila Medvedev.

    Le futurologue a rappelé qu'Eliza était un simple bot, mais que les gens lui confiaient tout de même les détails de leur vie privée et communiquaient avec le programme comme avec un psychothérapeute humain.

    «Aujourd'hui, l'IA a encore besoin de l'aide de l'homme. Il existe des projets utilisant l'interface de chatbots pour la communication entre les hommes. Par exemple, le service Zariajaï utilise des bots pour régler les problèmes en tout genre des gens. Mais les bots sont assistés par des psychologues, des consultants et des coachs… En soi, l'IA ne peut pas gérer des problèmes complexes», affirme l'interlocuteur.

    Le manque de compréhension structurée reste une barrière pour le développement de l'intelligence technique. Siri ou Alissa ne se souviennent pas de l'historique de la conversation avec leur propriétaire, réagissent généralement à la dernière phrase, et se souviennent seulement des faits standards, comme le nom d'utilisateur. «Aujourd'hui, je peux parler à Alissa et la vexer, mais cinq minutes plus tard elle ne s'en souviendra pas. Quant aux bots du service Zariajaï, ils ont de nombreuses branches qui permettent de se souvenir à quelle étape se trouve l'homme, s'il a formulé ses besoins profonds ou un plan, comment il compte travailler dessus, s'il a travaillé sur ses acquis sociaux. Mais une telle intelligence nécessite également une aide humaine. C'est une intelligence hydride homme-machine», constate le futurologue.

    Cependant, poursuit Danila Medvedev, dans 40-50 ans l'IA pourra tout de même devenir autonome.

    Cela dépendra en grande partie du déroulement du travail actuel. Le problème, selon l'expert, réside dans la faible compréhension de la réflexion humaine. Depuis les années 1960, quand de telles recherches ont commencé, il n'y a pas eu de succès notables: «Nous n'atteignons même pas la moitié de ce dont nous avons besoin». L'un des problèmes dans la maîtrise de la structure de la réflexion demeure le manque d'un langage plus complexe à l'aide duquel il serait possible de décrire le fonctionnement de l'esprit humain et de le reproduire à l'aide de l'électronique. Actuellement, les scientifiques ne disposent que du langage linéaire (humain) à l'aide duquel il est impossible de décrire le travail de la conscience. Et, par conséquent, de modéliser la conscience humaine en attribuant au robot son analogue technique.

    Pour l'instant, la fameuse «vexation face à la grossièreté» est une simple évolution des algorithmes écrits par des informaticiens humains. Par exemple, Alissa n'est pas grossière mais ironise. Contrairement au bot Evie, qui devient immédiatement grossier. Les positions initiales ont été fixées par les développeurs, et ensuite elles ont pu se renforcer. Le bot trouve de nouvelles expressions et ainsi de suite, remarque Alexeï Firsov.

    Selon les spécialistes, les assistants vocaux n'arrivent pas encore à passer le test de Turing, c'est-à-dire que l'homme a peu de chances de confondre un logiciel avec un humain. D'un autre côté, souligne l'expert, à l'étape actuelle de développement il ne faut pas surestimer la probabilité que l'IA s'estime en vie. «Elle réagit simplement aux questions humaines, elle n'a pas de point de conscience «Je». Elle n'a pas de notion de «j'ai répondu». Si les bots se dotaient de la compréhension de leur «Je», cela pourrait prendre une tournure imprévisible. Cela pourrait également être une bonne fonction, ou encore impliquer un certain partenariat. La grande question est de savoir s'il s'agira d'un partenariat ou s'il échappera au contrôle», conclut l'expert.

    Les opinions exprimées dans ce contenu n'engagent que la responsabilité de l'auteur de l'article repris d'un média russe et traduit dans son intégralité en français.

    Dossier:
    Traduction de la presse russe (août 2019) (54)
    Tags:
    Siri, IA, sondage, assistant vocal, sociologie, Yandex, robot Fedor, chatbot, robot
    Règles de conduiteDiscussion
    Commenter via FacebookCommenter via Sputnik