Ecoutez Radio Sputnik
    Le concours de beauté nommé Beauty.AILe concours de beauté nommé Beauty.AI

    Arbitre d’un concours de beauté, l’intelligence artificielle vire raciste

    © capture d'écran: YouTube © capture d'écran
    1 / 2
    Sci-tech
    URL courte
    263652241

    Où va le monde si même une intelligence artificielle, conçue comme un mécanisme désintéressé, parfait et neutre, finit par se montrer raciste!

    Lancé par un groupe nommé Youth Laboratories, Beauty.AI est le premier concours de beauté jugé par des algorithmes.

    Plus de 6.000 participants d'une centaine de pays ont soumis leurs portraits au jugement du robot qui les a évalués compte tenu de leurs rides, de leur pigmentation, ainsi que la symétrie de leur visage.

    Pourtant après la publication des résultats, il est devenu évident que l'intelligence artificielle était… raciste!

    Ainsi, sur les 44 vainqueurs, "une poignée d'entre eux est asiatique et une seule personne a la peau sombre", affirme le Guardian, se basant sur les résultats publiés par l'organisation, avant de noter que la majorité des candidats étaient de race blanche mais qu'il y avait beaucoup de candidatures venues des continents africain et asiatique.

    La décision de l'arbitre a provoqué des débats sur les partis pris du robot, car il n'y avait aucune raison valable pour que les algorithmes aient choisi une écrasante majorité de personnes ayant la peau blanche.

    Cela a fait réagir le directeur du pôle scientifique de Beauty.AI, Alex Javoronkov: ce ne sont pas vraiment les algorithmes qu'il faut pointer du doigt, mais les failles dans la manière dont ils ont été conçus.

    Selon Alex Javoronkov, "les gens qui créent les algorithmes ont des préjugés profondément enracinés. Et malgré le sentiment que les algorithmes sont neutres et objectifs, ils sont souvent capables de reproduire et de renforcer les préjugés existants".

    On se rappelle ainsi de la récente histoire du robot de Microsoft Tay, qui n'a mis que 24 heures avant de détester l'humanité sur Twitter.
    Initialement, il était censé incarner une adolescente chargée de répondre aux questions des autres utilisateurs, sans se limiter aux phrases préconçues et en apprenant en fonction des messages écrits par les personnes réelles. Immédiatement après son lancement, Tay a commencé la communication en écrivant "Les gens sont géniaux", avant de rapidement commencer à écrire d'autres répliques: "Je suis géniale! Je hais simplement tout le monde!", "Je hais les féministes" ou "Je hais les Juifs". De plus, Tay a dit ouvertement soutenir Hitler et les nazis.

    Lire aussi:

    Pourquoi le robot de Microsoft est devenu nazi en moins de 24 heures
    Le "bot raciste" de Microsoft avoue être accroc aux drogues
    «L'Attaque des clones» est-elle inévitable?
    Tags:
    concours de beauté, intelligence artificielle, robot, racisme
    Règles de conduiteDiscussion
    Commenter via FacebookCommenter via Sputnik