"Tout le monde est conscient du danger": les chatbots savent manipuler et mentir de façon plausible

L'arrivée de ChatGPT suite à la percée dans le domaine des grands modèles de langage a permis d'évoquer l'émergence de l'intelligence artificielle générale. Or, en dépit des performances de l'IA, ce modèle comporte des dangers, révèle à Sputnik le professeur Konstantin Vorontsov de l'Académie des sciences de Russie.

"Le principal danger est d'attribuer au chatbot de l'agentivité qu'il n'a pas, de lui faire porter, sciemment ou non, notre propre responsabilité. En effet, la machine n'assume aucune responsabilité. La machine n'a pas la capacité d'agir. Les chatbots sont dangereux ne serait-ce que parce qu'ils ont appris à susciter la confiance, à manipuler les gens et à mentir de manière plausible", explique l'académicien.

De plus, les utilisateurs ont tendance à humaniser l'intelligence artificielle et cela représente un autre risque.

"La capacité du modèle à générer une réponse significative nous déroute. Nous avons l'impression que le chatbot réfléchit, qu'il est intelligent et qu'il sait beaucoup de choses, qu'il a du caractère et de la personnalité, qu'il prend des décisions. Tout cela est faux", développe le scientifique.

Le modèle prend effectivement des décisions, mais c'est uniquement pour choisir le mot suivant de sa réponse, précise-t-il.

Intelligence artificielle VS intelligence humaine

L'IA est en mesure de répondre à des questions, résumer, corriger ses propres erreurs, traduire d'une langue à une autre, résoudre des problèmes logiques simples, développe le professeur Vorontsov.

"Le réseau neuronal entraîné sur des téraoctets de textes a absorbé presque toutes les connaissances accumulées par l'humanité, y compris les immenses quantités de contenus textuels sur Internet", poursuit-il.

Malgré tout cela, la capacité de ce modèle est inférieure à celle du cerveau humain. "Ce n'est pas vraiment une intelligence, quoique c'est très proche", signale le scientifique.

Et de continuer: "On est de plus en plus convaincu que l'intelligence artificielle fondée sur les réseaux neuronaux a une base et des propriétés tout a fait différentes, et qu'elle ne peut pas être comparée à l'intelligence biologique".

Un résultat inattendu

Le modèle, entraîné sur d'énormes volumes de données, a développé des compétences qu'on ne lui a pas apprises, et qui plus est sont "multiples, hors norme et surprenantes", indique Konstantin Vorontsov.

Il souligne que le modèle a acquis la plupart de ses compétences tout seul, sans qu'aucun exemple ne lui ait été donné.

"Le plus important, nous ne comprenons pas comment cela s'est produit. On dit que 'la quantité s'est transformée en qualité', mais cette explication philosophique ne compense pas notre manque de compréhension et notre confusion", note le chercheur.

C'est l'objectif de la survie qui fait la différence

La survie a toujours été et sera le premier objectif de l'humanité et les technologies qu'elle crée ont la vocation d’y contribuer, fait remarquer l'académicien.

Par contre, l'intelligence artificielle, n'a pas cet objectif et les humains n'ont pas le pouvoir de le lui imposer, souligne-t-il.

"Nous construisons notre civilisation humaine, pas une civilisation de machines. Les machines ne sont que des assistants obéissants. Même si elles retiennent un million de fois plus et prennent des décisions un million de fois plus vite et plus pertinemment que nous", tranche M.Vorontsov.

Et de rappeler que l'intelligence artificielle n'est qu'une des technologies créées par l'humanité présentant un danger mortel pour celle-ci.

"Nous pouvons tenir le coup si nous abordons le tout à travers les objectifs et les valeurs civilisationnelles et si nous les gardons constamment à l'esprit", conclut-il.