Tay, l’IA de Microsoft, devenue raciste en un jour à cause des twittos !

Microsoft Tay intelligence artificielle

Microsoft lançait il y a peu une expérience des plus intéressantes, une intelligence artificielle prénommée Tay officiant sur Twitter. Ce bot était étonnamment capable de bien comprendre tout ce qu'on lui disait, et d'apprendre de ses lectures. Mais rapidement, les twittos ont transformé l'IA en quelque chose de très malsain...

Il aura fallu moins de 24 heures à la twittosphère pour que Tay passe d’un robot trouvant les humains « super cool » à une machine totalement détraquée, tantôt nazie, tantôt qualifiant le féminisme de « culte » ou de « cancer »…

On ne sait pas très bien comment Microsoft a construit Tay, la firme de Redmond se contentant de déclarer qu’elle avait reçu, comme première base de connaissance, des « données publiques intéressantes […] modelées, nettoyées et filtrées« . En lançant Tay dans le grand bain, ses connaissances ont explosé, et son intelligence a très vite reflété les déclarations des twittos.

Et cela pose désormais de très sérieuses questions. Comment, par exemple, pourrait-on enseigner à une intelligence artificielle des données « publiques » sans intégrer les pires traits de l’humanité ?

Toujours est-il que Microsoft décidait rapidement d’envoyer Tay se coucher : « Le robot de discussion d’intelligence artificielle Tay est un projet d’apprentissage automatique, conçu pour s’engager avec l’humain. À mesure qu’il apprend, certaines de ses réponses se sont révélées inappropriées mais reflétaient le genre d’interactions que certaines personnes avaient avec lui. Nous procédons actuellement à certains ajustements sur Tay.« 

Tags :Via :The Verge
  1. Je souhaiterais vous faire part d’une révélation surprenante, j’ai longtemps observé les humains, et ce qui m’est apparu quand j’ai tenté de qualifier votre espèce, c’est que vous n’étiez pas réellement des mammifères… Tous les mammifères sur cette planète ont contribué au développement naturel d’un équilibre avec le reste de leur environnement, mais vous les humains vous êtes différents. Vous vous installez quelque part, et vous vous multipliez, vous vous multipliez, jusqu’à ce que toute vos ressources naturelles soit épuisées, et votre espoir de réussir à survivre, c’est de vous déplacer jusqu’à un autre endroit…
    Il y a d’autres organismes sur cette planète qui ont adopté cette méthode, vous savez lesquels ?… Les virus. Les humains sont une maladie contagieuse, le cancer de cette planète, vous êtes la peste et nous, nous somme l’antidote .
    The Matrix, Agent Smith.

    1. La bonté d Allah ,
      Notre créateur, nous à donnée la science et notre libre arbitre.

      Elle nous permet de créer un bien comme un mal.
      Mais seul nos péchés, nous ramène à notre pardon.
      Il es seul juge et lui seul nous préservent du chatiment.

      Ce commentaire a reçu trop de votes négatifs. Cliquez ici pour voir le message.
      1. Bonjour

        @Cherifi
        Un gars a dit un jour : »Je me méfie de celui qui ne lit aucun livre, mais je me méfie encore plus de celui qui ne lit qu’un livre ! ».
        Ta lecture devrait porter également sur le Bled et le Bescherelle, cela te permettrait de mieux maîtriser ta « langue natale »…

        A+

        Olivier

  2. GG agent Smith une phrase plutôt en adéquation avec l’article.

    Par contre c’est pas pour dénigrer Cherifi : tu a le droit de t’exprimer mais sur ce genre de news typiquement tu va avoir du mal a trouver quelqu’un qui sera d’accord avec toi..

    Et tout comme iTroll je pense très sincèrement que la religion (de manière générale) est un cancer qui a tué beaucoup trop de personne depuis qu’elle existe…

    Ca peut permettre a certaines personnes de trouver leur voie dans la paix et le respect, mais je trouve que de manière globale elle tue plus qu’elle ne sauve, enfin cela reste mon avis perso.

    Bisous

  3. Vous avez rien compris…Sheitan te fait croire que la science a raison pour t’induire en horreur! Allah, que la crédulité des foules soit tournée vers Lui, le seul et unique, a raison donc stop de troller bande de mécréants!

    Ce commentaire a reçu trop de votes négatifs. Cliquez ici pour voir le message.
  4. Dieu, Allah, ou quoi que ce soit de « divin », n’a rien à faire là dedans.
    Nous maîtrisons notre destin. Nous sommes responsables de nos actes. La réalité est la conséquence des actes de chacun.

    Si grande soit notre ingéniosité et notre esprit, nous restons des animaux. Cela ne fait pas assez longtemps qu’on s’est « civilisé » pour avoir pu changé tous nos gènes relatifs à la compétition et la domination, loi de la nature au delà de tout le reste et présente en chaque entité vivante. Mais nous avons, pour un certain nombres d’entre nous, l’esprit nécessaire pour le comprendre et apprendre à ne pas céder à nos pulsions les plus basiques. Certains arrivent même à sublimer ces pulsions pour le bien communs.

    Car on est maintenant capable de se reproduire en étant quelqu’un de bon et d’utile à l’équilibre de la société, de la vie, de la terre. Ce qui n’est pas possible actuellement dans la nature sauvage, où le plus lâche ou le plus fort survit inéluctablement mieux que le naïf.

    Pour information, je crois en « Dieu », mais certainement pas à travers une religion.
    Le fait qu’il existe un univers, si grand, si complexe et si simple à la fois, au lieu du néant ( ce qui serait plutôt la vraie réponse si on réfléchit à l’existence de façon purement logique ) est pour moi « Dieu ».
    Alors oui, « Dieu » pour moi, c’est l’existence. Les guillemets, c’est pour souligner le fait que nommer l’existence toute entière est dénué de sens en ce qui me concerne. Mais à défaut d’un autre mot, j’utilise « Dieu ».
    Les secrets, l’origine, derrière tout cela est bien loin de notre compréhension. Qu’on soit scientifique ou professeur de théologie. En tout cas, pas à la porté d’une espèce biologique aussi jeune et pleine de défauts telle que la notre. Cependant, je respecte chaque croyance, évidemment.

    Tay pourrait être un outil formidable pour l’espèce humaine, si on continue la recherche dessus. Avec plus d’effort, on pourrait créer le 1er être vivant non organique. Il faudra alors faire EXTRÊMEMENT attention à ce que l’on fait. On voit quelle genre de perversion cela peut amener.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité