Le danger se précise: les robots savent désormais mentir

benderlies.png
Sacrebleu! L'Age des Machines est pour bientôt: un groupe de scientifiques suisses a mis au point des robots capables d'apprendre à leurs congénères.

Bon, d’accord, ils ne jouent pas encore au poker, et communiquent entre eux par d’anodines lumières clignotantes, au lieu d’utiliser des lasers capables de détruire des êtres humains.

Mais le concept reste inquiétant, d’autant plus que les boites de conserve se sont mises à mentir de leur propre initiative:

L’équipe du Laboratoire des Systèmes Intelligents de l’Institut Fédéral de Technologie suisse a été la première surprise de constater les faits. Au départ, leur expérience consistait simplement à faire travailler des petites machines apprenantes en groupe pour chercher de la « nourriture » tout en évitant les « poisons ».

Imaginez la surprise des chercheurs lorsqu’une génération de robots a appris à mentir à propos du poison, envoyant leurs concurrents vers la nourriture empoisonnée.

Les petits robots à roulettes disposaient d’un système de 30 « gènes » pour déterminer leur comportement et leur adaptation à l’environnement. Les sources de nourriture rechargaient les batteries des robots, tandis que les poisons les déchargeaient. En répétant l’expérience sur 50 générations, les chercheurs espéraient identifier les meilleurs.

Trois colonies de robots de la cinquantième génération ont appris à signaler aux autres robots de leur groupe quand ils trouvaient de la nourriture ou du poison. Mais la quatrième colonie mentait, signalant comme nourriture le poison qu’ils avaient trouvé, pour mieux se diriger tranquillement vers la nourriture tandis que les autres agonisaient.

Ce roboticide de sang-froid fait froid dans le dos. Mais pour être tout à fait complet et sauver l’honneur des robots, il faut signaler aussi l’existence de « robots héros » qui ont signalé le danger pour mieux sauver les autres.

Est-ce que cette technologie sera un jour transposée à des robots domestiques? J’espère bien que non, car je ne me vois pas devoir discuter sans cesse avec un Roomba qui prétend avoir aspiré derrière le canapé alors qu’il reste encore un énorme tas de poussière. [Discover Magazine]

Dernières Questions sur UberGizmo Help
  1. puissant tu veux dire :) le mensonge est un des premier carctere de l’intéligence.

    L’art du mensonge chez les jeunes enfant et un indicateur d’intélligence

  2. avec ce principe (évolution et selection des mieux adaptés) on ne peu pas être surpris par ce résultats. c’et le fait qu’une seule colonie sur les 4 peuissent mentir qui est étonant.
    dans la nature (qui évolue et qui selectionne les plus adapté) le « mensonge » est plus que fréquent

  3. ???
    Je vois mal comment ça pourrait être possible, mentir pour son profit demande quand même une réflexion poussée. Je ne sais pas quelle est la réputation de Discover Magazine, mais ça ne cacherai pas un fake ??

  4. En fait, si la consigne du jeu était d’optimiser la quantité d’énergie perçu par individu et non pas pour le groupe, le résultat est normal.

  5. pourquoi ce serait un fake, tout indique (d’apres les personne compétante)que les premiere veritable IA appraitront au cour de notre siecle certain disent meme dans les 10 années a vennir. La sience fait des bond prodigieux chaque jours, j’ai hate d’y etre 😉

  6. En matière d’intelligence artificielle, les algorithmes génétiques existent depuis trente ans, et intègrent la notion de mutation génétique et de comportement adaptatif. 😉

  7. parait qu’on pourra pas faire d’IA tant que les robots seront codés en binaires, on m’avait raconté ça, une histoire de devoir coder en 4D pour créer un IA, ça a un rapport avec le systémique, ou je sais plus quoi.
    Le fait est que aujourd’hui, avec le binaire, l’ia on peux pas y’arriver, et c’est pas pour rien que dans les jv, ça fais 20 ans qu’ils ce cassent les dents la dessus.

  8. Le robot ne ment pas. Le mensonge requiert une conscience de fournir une information fausse. Si j’en crois l’article, en fait les robots qui donnaient une fausse information survivaient, et pouvaient donc se perpétuer, alors que les autres qui considéraient l’information fiable, allaient se suicider.

    Morale : toujours vérifier ces informations en les recoupant auprès de plusieurs sources, ce que je vais m’empresser de faire à propos de cet article.

  9. Le mensonge dans ce cas là me paraît tout à fait probable. En effet si les robots procèdent par apprentissage, il ont du essayer de mentir de temps en temps pour voir ce qui arrive. Et ils remarquent bien que quand ils envoient leurs copains à la mort, il reste + de nourriture pour eux. Purement rationel, mais cruellement atroce lol.

  10. On s’étonne des réaction que nous avons programmés, mais les inventions ne dépendent-elles pas des inventeurs ?
    un enfant acquier les propriétés génétiques de ses parents, n’est-ce pas transposable pour les « parents » scientifiques et leurs « enfants » robots ?
    Ce qui est hallucinant, c’est plutot que les premiers traits que l’on essaye de faire ressortir ne sont pas toujours ceux que l’on souhaiterait voir apparaitre …

  11. dans ce cas ils on juste essayé de crée des robot qui apprenne tout seul a faire une tache simple , et au passage ils on appris quelque chose de bcp plus subtil et de pas du tout prévu et c’est ca qui est puissant. Bientot des robot qui bluff au poker ?

  12. Oui en fait des ésultats de ce type sont obtenus sans algorithmes complexes, c’est exactement le contraire. ca me rappelle une experien qui visait à programmer un logiciel pour des robots pour faire des taches simples : d’un coté des ingénieurs, de l’autre des changement aléatoires du programme et quelqu’un qui notait les robots en fonctions de leur performance, résultat ? La deuxième méthode était 30 fois plus rapide et surtout le code nécessaire au fonctionnement des robots était alors beaucoup plus simple.

    Au sujet du code binaire qui ne peut pas générer d’IA c’est surement des conneries. Ce n’est que le support de l’information. Si cette idée s’appuie sur le fait qu’il ne peut y avoir de « mutation » sur des bits puisque seulement 2 états (et donc le résultat d’une mutation serait désastreux), il suffit de passer à un niveau de codage plus comple basé sur du binaire.

    Enfin peut être que tout ça n’est qu’une mascarade mais j’espère que non. Les chercheurs en IA n’ont toujours pas compris que recréer l’intelligence d’un seul bloc est beaucoup trop compliqué en comparaison de la métode évolutive (aléatoire + sélection).

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité