L’IA pourrait être « la plus grave erreur de l’histoire »

L'IA pourrait être "la plus grave erreur de l'histoire"

Qui a dit que l'intelligence artificielle pourrait être "la plus grave erreur de l'histoire" ? Aucune idée ? Indice : il s'agit de l'un des physiciens les plus célèbres de notre époque. Toujours rien ? Stephen Hawking, bien sûr. L'homme s'interroge sur les risques possibles si l'on offrait une super-intelligence à la machine.

Physique, mathématiques appliquées, cosmologie, nombreux sont les domaines d’expertise de Stephen Hawking. Et l’intelligence artificielle semble en faire partie. Si celle-ci s’annonce extrêmement puissante, elle pourrait aussi poser de sérieux problèmes, voire une menace existentielle pour l’humanité.

Avec l’expert en informatique Stuart Russell et les physiciens Max Tegmark et Frank Wilczek, Stephen Hawking déclare que les avantages potentiels pourraient être colossaux mais il nous est impossible de prédire ce qui se passera lorsque l’intelligence artificielle aura atteint son paroxysme.

Dans The Independent, les scientifiques écrivent :

Alors, face à des futurs possibles de bénéfices et de risques incalculables, les experts devraient faire tout leur possible pour assurer la meilleure des fins, non ? Faux. Si une civilisation extraterrestre nous envoyait un message disant « On arrive dans quelques décennies », répondrions-nous « OK, prévenez-vous quand vous serez là, on laissera les lumières allumées. » ? Probablement pas. Mais c’est plus ou moins la même chose avec l’intelligence artificielle. Nous faisons actuellement face à la meilleure ou la pire chose qui puisse arriver à l’humanité et pourtant, seules quelques rares recherches s’intéressent à cela, comme le  » Cambridge Centre for the Study of Existential Risk », le « Future of Humanity Institute », le « Machine Intelligence Research Institute » et le « Future Life Institute ». Nous devrions tous nous demander ce que nous pouvons faire pour augmenter les chances de récolter les avantages et éviter les risques.

Tags :Sources :io9
Dernières Questions sur UberGizmo Help
  1. L’intelligence artificielle est domaine de recherche qui n’est pas nouveau. Il est normal qu’il évolue et que la technologie bénéficie des nouvelles découvertes. En réalité, cela reste une invention humaine et donc, l’homme devrait être capable de programmer des machines qui lui obéissent en toutes conditions, sinon, il n’est qu’un apprenti sorcier. Quoi qu’il en soit les usages qui en seront fait seront essentiellement mauvais puisque destiné à la rentabilité, à l’augmentation des profits financiers, à créer de nouvelles armes de combat. Les premiers à s’intéresser à l’AI restent les militaires. Si on couple l’intelligence artificielle avec la capacité des ordinateurs quantiques il se pourrait aussi que ces machines trouvent des solutions aux questions sociétales auxquels les humains sont incapables de répondre : le chômage de masse, les prochains défis écologiques, comme le réchauffement climatique. En réalité il serait peut-être bon qu’une intelligence supérieure gouverne l’humanité. Nous en reviendrons aux fondement étymologique de la cybernétique : la science du gouvernement. C’est peut-être secrètement ce que nous souhaitons réaliser en espérant que cela sauvera l’humanité. Quant aux individus, ils ne feront rien de bon. Nous sommes déjà à l’ère de l’Idiocracy et leur téléviseur sera juste plus intelligent qu’eux.

    1. et bien en fait tu devrais lire sur la singularité technologique et tu va comprendre que l’ia va aller de elle même et evoluer tellement vite que aucune humain est capable de même penser a quoi elle va ressembler. l’inteligence de milliards d’humain dans une petite machine et c’est vrai que ca peux faire peur. et pour tes solutions qu’on ne peux pas repondre c’est faux. soi on a la solution mais c’est pas profitable ou bien même si les gens on de bonnes intention les solutions son trop draconniene pour vraiment avoir envie de changer son petit monde pour aider les autres.

    2. Oui mais aimerons nous les réponses qui pourrait nous être données. Il pourrait nous donner des réponses qui priverait l’humain de certaines « libertés » ou encore dépourvues de « morale ».

  2. De toutes façons, ce que nous faisons à l’heure actuelle (sauf si Stephen Hawking est au courant de recherches secrètes type black projects) ce sont des automates et ceci quand bien même on aurait affaire à des systèmes experts évolués (la seule intelligence qui se manifeste alors est celle qui a été mise en boite par les concepteurs) sans réelle autonomie et sans moyen d’évolution. L’adaptation dont saurait faire preuve ces systèmes est très contenue et n’a rien a voir avec un processus intelligent et encore moins avec quelque chose de conscient !
    La véritable intelligence artificielle passe forcement par une redéfinition du support physique qui ne pas être celui d’un processeur et peut-être aussi par l’adoption d’une logique trivalente…

    1. totoche, l’auto apprentissage des machines est déjà possible, passe regarder un peu comment fonctionnent les « réseaux de neurones ».
      Cdt

  3. c’est moi ou c’est dernière année stephen hawking est devenu un froussard ? il a peur quand on émet des messages pour les extraterrestres et a peur des colisionneur de particule et la c’est l’ia. je pense qui se sent depasser et qu’il a peur des choses qu’il n’arrive pas a comprendre ou a expliquer.

    1. Je pense au contraire qu’il voit très bien ce qui va se passer, on ne peut pas foncer en avant sans prendre quelques précautions, sans devenir parano, il convient de rester prudent.
      L’histoire de l’Homme est émaillée d’erreurs sur les grandes découvertes (découvertes des Amériques, obscurantisme religieux,…).
      La création d’une IA basée sur ce que nous connaissons et donc « humaine », si elle devient autonome peut amener des maux terribles pour l’humanité si elle évolue sur son propre chemin, idem pour les extra-terrestres, qu’est-ce qui nous dit qu’ils ne se comporteront pas comme nos ancêtres?
      Je sais que c’est faire preuve d’ethnocentrisme et c’est pour ça que je suis moins inquiet que lui, je pars du principe ce que nous créerons ou viendra nous visiter sera plus « sage » que nous et donc « bon » mais c’est un point qu’il a raison de soulever, sans sombrer dans la paranoïa, il faut rester objectif.

    2. Passe tes doctorats et revient nous parler de ton « expertise »…au lieu de spéculer sur un « scientifique » qui n’arriverait pas à « comprendre » !!

      De par son orientation pluridisciplinaire, il a une vue bien plus large des possibilité à long terme que le petit codeur du dimanche, ou l’assistant de labo lambda !! En plus, son message ne vend rien, ne demande rien, ne fait aucune spéculation : il demande juste de prendre ce domaine au sérieux, et d’y réfléchir….

      …au lieu de ça, des tocards sur les commentaires préfère le mettre en doute!!

      Quand le sage montre le ciel, tu t’écrase et tu l’écoute, au lieu de nous dire que son ongle est mail taillé !!

  4. la meilleure illustration de l’IA est ce qui est fait au travers des algorithmes destinés à traiter les opérations financières en mode « automatique ».
    Ces dernières sont si rapide qu’on ne peut même pas les tracer… sans parler du résultat très discutable pour ce qui concerne le bien être de l’humanité ça fait réfléchir non ?

  5. J’ai lu récemment (peut-être bien sur Giz d’ailleurs) que des chercheurs en informatique robotique avaient mis au point des ordinateurs capable de former d’autres ordinateurs, je suis d’accord avec les commentaires précédents, que l’Homme crée une IA extrêmement développée, ça pourrait être bénéfique (il ne faut pas toujours voir le Mal partout) cependant, il est selon moi nécessaire que l’Homme garde un moyen de stopper « Skynet » car à l’heure du « tout-informatique », ce serait une épée de Damoclès qui si elle venait à tomber, pourrait anéantir l’Humanité.

  6. Comme d’habitude l’article n’apporte rien, strictement rien.
    Pour donner une idée du traitement qu’on peut faire de cette information, je vais citer Christian Fauré :
    « On ne peut qu’aller dans le sens de l’appel de Hawking, mais à condition toutefois de rappeler quelque chose d’essentiel pour ne pas passer à côté du sujet, à savoir que la seule intelligence artificielle qui existe est celle des hommes. Je veux dire par là qu’il n’y a pas d’intelligence naturelle ; notre intelligence est toujours artefactuelle, et donc artificielle.

    Croire que nous sommes dotés d’une intelligence naturelle qui produirait une intelligence artificielle – celle qui anime les fameux objets intelligents – n’est pas la bonne façon de poser le problème. En fait, c’est une hypothèse qui est erronée car elle est darwinienne ; or, Stiegler a parfaitement montré que l’homme est précisément ce vivant qui n’est pas soumis à sélection naturelle mais au contraire à la sélection artificielle : Stephen Hawking est bien placé pour savoir cela, lui qui ne vit, pense et communique que grâce aux machines. »

    Ah bah oui, quand les rédacteurs connaissent le sujet et ont plus de vécu, ça invite à réfléchir d’avantage et sur de meilleures bases.
    Bref….

  7. En fait, il a totalement raison : la plupart des gens (et gizmodo n’échappe pas à la règle avec sa photo), évoque toujours l’IA comme une conscience….

    Mais sorti de la science-fiction, l’IA n’a pas besoin d’être « consciente » pour nuire et pour intervenir dans nos vie : on laisse de plus en plus de pan entier de notre existence au soin d’aide à la descision, de logiciel automatique,etc….et on laisse de plus en plus de « marge » à ces logiciels pour prendre des décisions à notre place !!

    Un programme qui recherche un « optimum » avec des moyen d’intervention assez large pourrait devenir très nuisible bien avant d’atteindre une conscience, ou une intelligence anthropomorphique !!

    Le sujet est passionnant, et la réflexion est nécessaire, mais je pense qu’on est dans le flou le plus totale : si tout les auteurs de science fictions du siècle dernier ont pensé qu’on ferait des découverte ahurissante coté transport et colonisation spatiale, ils se sont tous bien planté sur le développement ahurissant de l’informatique ces dernières années !! La question est : comment définir l’IA est son potentiel de nuisance ….et jusqu’à quel point confier des contrôle à des machines automatisé …

  8. @ Glipo > tout a fait ce que je pense depuis un moment, nul besoin d’une machine intelligente pour causer des dégâts,

    Prenez un drone, solaire pour faire écolo, équipé d’un laser ou toute autre arme et configuré pour tirer à vue sur tout objet ressemblant à un être vivant…

    Pour ce qui est de l’IA, le sujet et le débat est passionnant, et j’adore l’aborder !

    mais je ne commencerais à parler d’IA seulement quand une machine sera en mesure d’exécuter la demande:
    « dessine moi quelque chose qui fais naitre en toi une émotion de bien être, qui te fais plaisir » un enfant de 3 ans peut le faire, pour une machine, on peut attendre je crois…

    je me demande si avec notre intelligence nous serions en mesure de produire plus intelligent que nous. car nous n’avons pas vraiment conscience de ce qu’est « plus intelligent que nous »

    tout comme un acarien qui, entrain de déguster un bout de peau morte de votre bout du nez n’a absolument pas conscience qu’il est sur une surface vivante.

  9. Pourquoi vouloir créer une intelligence artificiel alors que l’homme n’est que a 10% de ses capacités neurale peut être qu’il serait plus judicieux d’étudier ceci.
    En parlant de ça un film est en cours de tournage sur ce sujet « Lucy » il à l’air passionnant.
    Et en plus Morgan Freeman joue dedans ça promet du suspense.

  10. Stephen Hawking en est réduit à faire du buzz avec des déclarations absurdes. Pathétique.
    Faire peur pour vendre toujours plus.
    Nous ferions mieux pour le présent de nous demander pourquoi les humains restent dans leur majorités toujours aussi stupides. C’est un véritable danger pour l’avenir.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité