Les chercheurs du MIT ont créé Norman, une IA «psychopathe»

Le développement de l'IA est fascinant, si nous pouvions développer des systèmes informatiques capables de penser pour nous-mêmes cela nous ferait gagner beaucoup de temps. Cependant, il y a la question éthique qui se cache derrière l'avancée d'une telle sensibilité, pour donner du grain à moudre aux détracteurs, les chercheurs du MIT ont en fait créé une IA «psychopathe».

Cette IA est surnommée Norman, d’après le classique “Psycho” d’Alfred Hitchcock. Ces experts se sont basés sur des commentaires d’images dérangeantes de Reddit, loin d’être joyeux  “dédié à documenter et à observer la réalité troublante de la mort”. Après avoir alimenté l’AI de commentaires provenant du subreddit, ils lui ont donné le test de tâches d’encre Rorschach à examiner et de la même façon à une IA standard pour comparer les résultats.

Sur la base des résultats du test, la réponse de Norman était plus dérangeante… Par exemple, sur un test de tâches d’encre vu par l’IA standard, la réponse était «un groupe d’oiseaux assis au sommet d’une branche d’arbre», tandis que Norman a répondu «un homme est électrocuté et rattraper par la mort». Nous avons pire, “une photo en noir et blanc d’un petit oiseau” contre un Norman ayant répondu, “un homme est aspiré dans une machine à pâte.”

L’objectif de la création Norman n’était pas tellement de créer une IA psychopathe, mais de prouver un point : il est possible d’influencer un comportement, même automatisé. Ce qui n’a franchement rien de rassurant. En somme, “Si les algorithmes d’IA sont biaisés et injustes, le coupable n’est souvent pas l’algorithme lui-même, mais les données biaisées qui lui ont été fournies.”

Cela donne tout de même froid dans le dos…

Tags :
  1. Bon, clairement, il y a une grande méconnaissance de ce qui est fait ici.
    Le réseau de neurones est entraîné avec des images bizarres et il doit générer les réponses de Reddit. Il n’y a rien de psychopathe dans ce qui en ressort, ça correspond à la question qu’on pose.
    Sensationnalisme inutile.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité