Ecoutez Radio Sputnik
    Robocop

    Les armées sont-elles prêtes à accueillir des robots-tueurs dans leurs rangs?

    CC BY 2.0 / Wacko Photographer / ROBOCOP
    Sci-tech
    URL courte
    Jean-Baptiste Mendès
    379

    Entretien presque exhaustif de la chroniqueuse Rachel Marsden dans l’émission le Désordre Mondial avec Emmanuel Goffi, ancien officier de l’armée de l’air, spécialiste d’éthique militaire et de sécurité. Au programme: les robots dans l’armée, les enjeux et les défis de cette évolution technologique majeure.

    Comment imaginer les armées nationales dans quelques dizaines d'années? Peut-on anticiper des forces militaires composées de Robocop et d'Iron Man? Et comment mettre en place des garde-fous absolument nécessaires pour que la machine ne supplante pas l'Homme? La chroniqueuse Rachel Marsden interrogeait sur ce sujet Emmanuel Goffi, ancien officier de l'armée de l'air, spécialiste d'éthique militaire et de sécurité.

    Si vous désirez regarder la vidéo de l'émission, l'intégralité de l'interview est accessible via ce lien

    Constatant les grandes avancées technologiques en matière de robotique et d'intelligence artificielle, Emmanuel Goffi n'est pas surpris par ces évolutions: «ça fait quelques années qu'on voit converger un certain nombre de travaux dans différents domaines, l'intelligence artificielle évidemment, la robotique, l'armement et je me doutais bien qu'à un moment donné, tout cela allait amener à la mise en place d'une fusion entre ces différentes technologies et puis la mise en place parce qu'on y va, ce que vous appelez robots tueurs, qu'on appelle les systèmes d'armes létaux autonomes».

    Quels sont les intérêts pour les forces armées de développer les robots? Pour M.Goffi, également enseignant à l'université de Manitoba, les avantages sont nombreux: «les drones ont une certaine permanence, ils peuvent rester sur le théâtre très longtemps, recueillir énormément d'informations de manière à ce qu'une fois qu'on décide d'une frappe, cette décision soit prise en connaissance de cause, il y a aussi l'aspect fatigue, il n'y a pas de fatigue chez un robot […] il y a aussi une réactivité qui est beaucoup plus importante que chez l'être humain […] il y a l'autre intérêt évidemment, qui est d'épargner des vies humaines».

    Le cas des drones est plus spécifique, ajoute l'universitaire:

    «L'avantage des drones, c'est de pouvoir traverser une frontière, violer la souveraineté d'un État sans que cet État le sache et de le faire hors du droit des conflits armés. L'idée des drones, c'est essentiellement […] la reconnaissance, surveiller des individus, et éventuellement faire des frappes ciblées.»

    Les robots utilisés dans les conflits actuels sont essentiellement des robots démineurs, selon Emmanuel Goffi, qui a servi également 22 ans dans l'armée de l'air française. Il existe en outre «des petits robots chenillés sur lesquels on a des armes automatiques, on a des robots sous-marins qui sont l'équivalent du drone pour la mer. Il y a aussi le développement […] de robots de logistique, donc qui permettent de transporter du matériel.»

    Terminator
    © Photo. Sony Pictures Releasing CIS
    Le spécialiste prévient pourtant, les robots-tueurs posent de nouveaux défis et nécessitent la création d'un nouveau cadre juridique, en citant notamment la campagne Stop Killer Robots qui tente de mobiliser la société civile: «mon inquiétude est légale, elle est aussi éthique parce qu'on en est pour l'instant à des systèmes d'armes qui sont autonomes mais n'a toujours pas défini ce qu'était l'autonomie. Mais quand on va vraiment avec une intelligence artificielle extrêmement développée, la question se pose de savoir, est-ce que cette intelligence ne va pas arriver en compétition avec l'intelligence humaine et puis quelle va être la relation entre l'homme et ces nouvelles machines».

    La France est-elle préparée pour accueillir des drones dans ses forces armées? Emmanuel Goffi pointe le manque de réflexion prospective sur l'avenir de ces systèmes et leurs risques potentiels: «il y a un rapport du Sénat qui a établi qu'il fallait aller vers de plus en plus d'autonomie, vers l'intelligence artificielle parce que ça serait bénéfique à l'humanité. C'est une vision à très, très court terme. La vision à très, très long terme c'est de se dire, est-ce que si on crée une espèce qui sera une machine qui sera en compétition avec l'être humain, est-ce que cette espèce va vivre de manière pacifique avec l'être humain? Est-ce que si on reconstitue des cerveaux humains ou des intellligences humaines qu'on met dans des machines, est-ce que ces nouvelles intelligences humaines vont vivre pacifiquement avec nous?».

    Le robot liquide Terminator
    © Photo. Carolco Pictures /Terminator 2: Judgment Day
    Deuxième questionnement éthique, sur le champ de bataille. Emmanuel Goffi estime que l'introduction de robots sur les théâtres d'opérations va transformer la manière de faire la guerre, une guerre sans émotions. Selon lui, «les émotions sont fondamentalement importantes sur un champ de bataille», il insiste ainsi sur le côté binaire du robot: «les êtres humains qui sont sur les théâtres d'opérations ne sont pas des robots qui appuient sur la gâchette dès qu'ils voient quelqu'un qui a une arme en face d'eux». Il ajoute en outre que le phénomène d'identification et l'hésitation sont propres à l'être humain, même sur un champ de bataille:

    «Il est très difficile généralement de tirer sur un autre être humain. Quand vous avez une machine face à un être humain, vous n'avez pas une identification de la machine. Si la machine est capable de prendre un certain nombre de paramètres émotionnels en compte, l'environnement etc… et qu'elle décide de tuer, elle le fera sans hésitation, contrairement à l'être humain».

    Quels sont les pays les plus en pointe sur les robots-tueurs? Emmanuel Goffi cite ainsi les États-Unis, le Japon, Israël, la France, la Corée du Sud et de nombreux autres pays asiatiques très avancés sur la technologie «qui ont des relations aux robots qui est très différente de la nôtre donc ils n'ont pas des réserves que nous on peut avoir vis-à-vis du développement de ces robots». Le spécialiste de l'éthique militaire ajoute que ce sont logiquement les grandes puissances qui sont les plus favorables à cette évolution:

    «Quand vous êtes un petit pays qui a une industrie de défense qui est très peu developpée, évidemment vous allez très facilement vous opposer au développement de systèmes d'armes létaux autonomes. Quand vous êtes un pays comme la France, comme les États-Unis, comme la Russie, comme la Chine, que vous avez des intérêts economqiues, militaires, les armées qui sont très développées, évidemment que vous n'allez pas être d'accord pour vous contraindre légalement et limiter vos potentialités.»

    Et sur le terrain des opérations, comment ces évolutions sont perçues? Comment les cadres de l'armée française se préparent-ils à ces évolutions majeures? L'ancien officier de l'armée de l'air a constaté ainsi une certaine défiance, sans doute liée à des différences générationnelles: «il y avait vraiment une crainte de la part notamment des pilotes de l'armée de l'air de se voir supplanter par les systèmes de drone, il y a donc eu un gros travail de communication en interne, pour expliquer que les drones étaient là en complémentarité des pilotes de chasse et que c'était pas la fin des pilotes de chasse. On voit aussi qu'il y a de nouvelles générations qui rentrent dans l'armée et que ces nouvelles générations sont beaucoup plus accoutumées à entendre parler de drones à entendre parler de robots donc ils n'ont pas le blocage que pouvaient avoir les plus anciens.»

    Pourtant, les deux métiers n'ont pas grand-chose en commun, les conditions ne sont absolument pas similaires, le pilote de chasse risque sa vie, l'opérateur est installé dans un centre de contrôle: «quelque chose de très différent ça n'a strictement rien à voir, les sensations ne sont pas les mêmes, les missions ne sont pas les mêmes […] un drone globalement vous avez un joystick qui vous permet effectivement de le diriger, vous avez un petit pad qui vous permet de faire bouger les caméras mais vous n'avez pas une sensation quand on est dans le ciel donc c'est vrai qu'il n'y a pas un enthousiasme fabuleux pour les pilotes de passer de l'aéronef de combat au drone».

    Comment peut être recruté un pilote de drone? Emmanuel Goffi répond, en faisant référence à la carence d'opérateurs de drones aux États-Unis:

    «Les États-Unis se sont retrouvés très rapidement embêtés parce qu'ils n'avaient pas suffisamment de pilotes d'aéronefs pour les transformer en opérateurs de drones. Ce qu'ils ont fait, c'est qu'ils ont lancé une campagne de recrutement où en fait on regardait les compétences des candidats sur leurs capacités à jouer sur des jeux vidéo. Lorsqu'on regarde bien une console de drone, ça ressemble plus ou moins à une console de jeu vidéo.»

    Lire aussi:

    Les robots-tueurs ont-ils un avenir?
    «L'Attaque des clones» est-elle inévitable?
    Robots vs drones: une guerre ne se gagne pas qu'avec l'aviation
    Tags:
    intelligence artificielle, homme, Iron Man, armée, robot de combat, robot
    Règles de conduiteDiscussion
    Commenter via FacebookCommenter via Sputnik