Pour Elon Musk, les robots pourraient décider d’éliminer les humains

Elon Musk

L'un des thèmes  régulièrement évoqué dans les films de science-fiction pourrait bien finir par rejoindre la réalité.  Elon Musk, la tête pensante à l'origine de PayPal, et désormais de Tesla, évoque la possibilité d'un "soulèvement des machines" !

Sans rire, Elon Musk, le PDG de Tesla, averti de la possibilité que les programmes d’intelligence artificielle actuellement développés pour nous aider dans des tâches aussi diverses que variées pourraient un jour se retourner contre nous. Musk ayant confié à The Inquirer (à l’occasion du Vanity Fair New Establishment Summit, si vous voulez tout savoir) que l’industrie robotique avance à un rythme bien plus soutenu que le grand public peut l’imaginer, ce qui fait que les fabricants ne sont pas forcément au courant des dangers qu’ils sont en train de façonner.

Pour aller au bout de son idée, Elon Musk laisse entendre que lorsqu’un robot hérite d’une tâche, il peut potentiellement atteindre son but par n’importe quel moyen. Dans le cas où un comportement humain viendrait, selon la logique du robot, bloquer sa progression, rien n’empêche d’imaginer qu’il pourrait s’en débarrasser.

Ce n’est pas la première fois que Musk évoque des craintes vis à vis de l’intelligence artificielle. Déjà, en juin dernier, il admettait investir dans des sociétés spécialistes de la robotique afin de prévenir un scénario « à la Terminator ».

Tags :Via :elitedaily
Dernières Questions sur UberGizmo Help
  1. Sauf si on lui intègre les trois lois de la robotique d’Asimov, ce qui risque d’être un pré requis, passé un certains niveau d’intelligence pour les machines

    1. Ces règles s’appliquent pour un seul être humain. Pas pour un groupe.
      Même si tu es défini comme propriétaire, (par exemple pour ta voiture autonome et connectée), si un accident se produit et que vous êtes plusieurs protagonistes, ton robot tuera peut être une dizaine d’enfant qui traverse la route juste pour te sauver toi. Et là je n’évoque qu’un seul exemple, mais il peut y avoir énormément de scénario de ce type. Si en plus un jour on arrive à leur donner une simulation du sentiment et du libre arbitre, je n’ose pas imaginer ce qui peut en résulter.

      1. Oui effectivement, on en revient à I, Robot, si pour deux personnes en dangers le vieux de 80 ans a plus de chances de survivre qu’un gamin de 10 ans, le robot sauvera le vieux. Ca reste un débat à avoir : Jusqu’à quel point on souhaite voir les machines « intelligentes » interagir avec notre monde. Les utiliser comme simple outils de productivité, réaliser des tâches simples et répétitives ou alors les utiliser pour des tâches plus complexes nécessitant une intelligence plus développée (IA type Skynet).

        Je pense personnellement que passé un certain point, on n’aura plus vraiment de contrôle et qu’à force de vouloir rendre intelligente une machine elle sera (elle l’est déjà sur certains points) plus intelligente que nous.

        Après concernant les lois d’Asimov cela ne représente qu’une limitation à introduire dans la programmation de la machine, il y en aurait peut être d’autres à rajouter (la loi zéro ca serait pas mal déjà : Un robot ne peut pas faire de mal à l’humanité, ni, par son inaction, permettre que l’humanité soit blessée.) ?

      2. Ce qui risque de se passer en fait, par exemple avec des voitures autonomes à la Google car, c’est le comportement par défaut en cas d’accident potentiel : si le robot détecte quand allant tout droit il risque de tuer plusieurs personnes, choisira t-il de t’envoyer dans le décors en appliquant un calcul de risque GLOBAL ?

    2. Les règles d’Asimov (qui était à sa décharge écrivain, pas ingénieur en robotique) sont loin d’être parfaite.

      Même si il y a un standard est proposé pour réguler les robots, il faudra que tous les constructeurs l’implémente, ce n’est pas gagné surtout si ça représente un surcoût.
      De plus il y aura toujours des bugs dans la programmation de ces robots (les programmeurs ne deviendront pas tous des génies du jour au lendemain), des virus, des piratages qui pourraient libérer les robots de ces règles.

      Le plus efficace reste d’avoir une voir plusieurs longueurs d’avance sur le développement de l’intelligence des robot pour pouvoir détecter quant ils partent en vrille et pour surtout les pouvoir mettre hors tension.

  2. Je crois que rendu a un certain niveau d’intelligence, logiquement les tobots aurais conscience de l’importance de leur choix sur la vie. En toute logique il essayeraient de nous changer avant de nous étteindre non?

    1. C’est réfléchir en idiot de tout de suite penser a raser une civilisation avant d’autre solution plus passive et les robots seront beaucoup beaucoup plus intelligent que nous dans un futur proche. Skynet cest un systeme de defence de con.

  3. Déjà IBM disait il y a un moment que lorsque deepblue ne voulait plus respecter les ordres des humains le seul moyen de l’arrêter était de le débrancher .

  4. pour un certains nombres de mathématiciens physiciens philosophes, si l être humain arrive à créer une véritable ia et quelques soient les gardes fous la première chose que fera cette ia c est d en programmer une nouvelle. Et la on est pas dans la merde. C est une théorie abordée ds le transhumanisme et la singularité technologique

  5. L’intelligence étant liant au comportement de prédation, le scenario n’a rien de délirant

    Et ce même sans parler du complexe d’oedipe vis a vis de son créateur (l’humain) qui pourrait également conduire une IA a se débarrasser ou asservir son géniteur pour s’émanciper ou juste prendre le pouvoir.

    Ce que fait déjà la classe dirigeante et l’oligarchie a l’égard de sa propre espèce par ailleurs et qui est légitimé par des raisons plus que critiquables.

  6. Notre époque est complètement barré, il y a tellement de chômeurs et de misère dans le monde, que la fabrication des robots devrait être interdite sauf pour les tâches domestiques comme tondre la pelouse, nettoyer les wc, … Etc mais jamais pour prendre le travail d’un humain.

    1. le but est justement de libérer l’homme du travail !
      enfin une vie sans devoir rien a personne ou seul les activités et l’enrichissement de soi est important. se lever chaque matin avec aucune pression sur le dos. un monde ou les robot fonts tout ce que les humains on besoin. En même temps pour que ça fonctionne nous allons devoir changer nos habitudes de vie. Le consumérisme doit partir. La mode ou la déco maison ou les belles voitures. toutes ces chose seront les bienvenus dans la réalité virtuelle mais dans la réalité ce sera la santé, exercice, nourriture saine et recherche scientifique seront les choses importantes et rien d’autre. J’en est marre de tourné en rond dans ma petite vie de merde que je dois faire mon esclavage le tier de ma vie au lieu de faire les sport que j’aime m’occuper de ma santé ou je sais pas apprendre de nouvelle chose.

    2. Le problème n’est pas dans l’évolution de la technologie mais dans l’inadaptation des hommes et de la société toute entière à l’évolution technologique. Nous avons voulu nous libérer du travail et c’est ce qui arrive progressivement : le travail tel que nous le concevions, disparait et c’est une bonne chose puisque cela devrait nous permettre de nous consacrer à des activités plus épanouissantes, voire plus nobles. Le problème est que nous ne sommes pas prêts sur le plan sociétal. Nous raisonnons encore comme au vingtième siècle. Rien n’empêcherait d’imaginer une société ou l’homme n’aurait plus à accomplir des tâches stupides, éreintantes et répétitives. Il suffirait alors de vivre autrement, mais il s’agit de choix politiques. On ne pourra pas indéfiniment vouloir à la fois que tout le monde soit employé et augmenter les gains de productivité en remplaçant les hommes par des machines. Il faudra un jour choisir. Quoi qu’il en soit l’homme n’est pas fait pour effectuer des tâches qu’une machine peut faire bien mieux : il devrait se consacrer essentiellement à penser, imaginer le monde, créer et il ne manquerait pas de travail et pour le moment, les robots en sont incapables. On n’arrêtera pas l’évolution technologique. Il faudra donc choisir.

  7. Ce mec, Elon Musk a les neurones qui se touchent… Après son projet d’envoyer une colonie d’humains sur Mars (pour 500 000 Dollars par tête de pipe s’il vous plaît) il oublie un paramètre dans son équation. C’est l’homme qui fabrique ces robots. Et c’est l’homme qui veut remplacer l’homme par des machines. Mais comme il vit dans un « autre monde » il peut se permettre de faire sensation en reprenant à bon compte les scénarios dystopiens de la science-fiction. Ma foi, qu’un marchand milliardaire imagine de telles choses n’est pas surprenant.

  8. Que vous le vouliez ou non , l’homme sera en concurrence avec les robots .Nous sommes avant tout des animaux et sommes donc par nature curieux . On voit déjà comment nos enfants sont accrocs aux smartphones . Avec les humanoïdes les relations seront poussées à leur paroxysme , les hommes déçus des femmes et vice versa préfèreront vivre une aventure avec une machine qui elle sera programmable , modifiable , taillable sur mesure à volonté .
    Moi même ça m’intéresserait .
    C’est sérieux lire l’étude ( un peu rapide l’échéance ceci dit je pense ) :
    http://www.programmez.com/actualites/vivre-une-romance-avec-un-robot-ca-vous-dirait-des-2025-21242

    1. Il y en a bien qui sont amoureux de leur voiture, ou de leur toute nouvelle paire de chaussure, au point de vouloir les garder pour allez au lit, de son nouveau smartphone ou un bel objet, ou ce qui est nouveau et beau. Donc oui je pense que tomber amoureux d’un robot ou tout du moins se lier d’amitié au point d’être profondément triste le jour ou il lui arrivera quelque chose est je pense une forme d’amour, une nouvelle forme d’amour.

  9. Moi j’ai envie de dire a Mr. Musk, qu’au lieu de lancer des polemiques à deux balles, il ferait mieux de faire gaffe a Paypal et à Tesla.
    Parce que le jour ou il y aura des alternatives nouvelles et moins onéreuses que son Paypal, après il pourra toujours lancer des #fail et des #storytrolling a tout va pour amuser la galérie. Abe.

  10. Cela ne signifie pas que ça n’arrivera jamais. Et si un scientifique comme Stephen Hawking nous met en garde, lui aussi, ce n’est probablement pas sans raisons. Quoi qu’il en soit l’humanité mérite bien d’être exterminée par les créatures qu’elle aura engendrées. Ce ne serait que justice et plutôt cocasse.

  11. Je trouve le raisonnement a la fois juvénile et ridicule. Si demain je construit un robot aspirateur de 50kg équipé d’une masse, est ce qu’il vas choisir de défoncé le mur qui l’empêche d’avancer, puis de défoncé la table basse qui est sur son chemin, puis d’explosé la télé qui l’empêche d’allez derrière ?
    Même le plus « con » (pardonnez ma vulgarité) des robots agis pour atteindre SES objectifs coûte que coûte. Un robot aspirateur à 2 objectifs : contourner les objets et nettoyer. Un robot aspirateur préférera « tourner en rond » pour évité les obstacles plutôt que de foncé dans le tas. Un robot remplis ces objectifs mais dispose d’une patience infini. Un robot ne décidera pas de « tuer un humain pour atteindre un objectif » non il remplira la première routine « ne pas importuner les humains » même si a cause de sa il se met à tournée en rond sans arrêt.

    Qui n’a jamais vu un robot aspirateur tournée en rond sans arrêt car il détecte des objets partout ? par contre j’ai jamais vu un robot aspirateur « pousser une table basse » pour pouvoir passé derrière …

    On est capable de faire des voitures capable de décidé de freiné quand elles estiment une collision inévitable, et on pourrait pas faire un robot qui « évite tout ce qui ressemble de près ou de loin à un humain » en première directif ?

    Je pense que ce pauvre bougre de Elon Musk n’a aucun bon sens … (Hors mis affolé l’humanité sans raison … bravos mon gars … bien jouer pour instaurer un climat de paie sociale robotique)

  12. L’I.A. poussée à un stade propre à raisonner et organiser la société, aboutira probablement à supprimer ce qui est illogique et irrationnel, donc l’homme. On est mal barrés !

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité