L’intelligence artificielle pourrait éteindre la race humaine !

Intelligence artificielle

Si l'intelligence artificielle est assurément l'une des technologies les plus prometteuses à l'heure actuelle, certains experts s'alarment déjà des conséquences dangereuses que cela pourrait avoir sur l'homme. Des chercheurs viennent de dresser une liste des risques globaux "qui représentent une menace pour la civilisation humaine ou pour toute vie humaine".

Le rapport de ces scientifiques de l’Université d’Oxford se concentre sur les risques avec des « impacts qui pour de nombreuses raisons d’ordre pratique peuvent être qualifiés d’infinis ». Et l’intelligence artificielle en fait bien partie ! Aussi horrible puissent être les changements climatiques, l’impact d’une météorite ou l’éruption d’un super volcan, l’intelligence artificielle pourrait causer notre extinction délibérément :

« … les intelligences extrêmes ne pourraient pas être facilement contrôlées (ni par les groupes qui les créent, ni par un quelconque organisme de régulation international), et elles agiraient probablement à augmenter encore leur propre intelligence et à acquérir le maximum de ressources pour de très nombreuses motivations.

Et si dans ces motivations on ne retrouve pas la survie et la valeur de l’humanité, l’intelligence sera conduite à construire un monde sans humains. Cela fait des intelligences artificielles les plus évoluées un risque unique, bien plus dangereux et enclin à notre extinction. »

L’Université d’Oxford n’est pas la première à mettre en lumière les risques d’une telle technologie. Elon Musk, fondateur de PayPal, Tesla Motors et SpaceX, l’a déjà fait maintes fois, évoquant même « notre plus grosse menace existentielle ». Bill Gates abondait peu après dans son sens.

Et si deux des plus grands entrepreneurs IT ne parviennent pas à vous persuader, peut-être que le plus grand physicien au monde encore vivant pourra. Stephen Hawking est homme de peu de mots mais ils sont souvent lourds de sens : « Le développement d’une intelligence artificielle totale pourrait signifier la fin de la race humaine. »

Pour l’heure, tous les grands experts semblent conscients des risques, mais poursuivent leurs projets, espérant ainsi mettre au point des machines offrant des avantages exceptionnels. Ne reste maintenant plus qu’à prier que la fameuse ligne rouge ne soit jamais franchie…

Tags :Via :Naked Security
Dernières Questions sur UberGizmo Help
  1. Pour le moment, le seul prédateur de l’homme est l’homme, donc même si l’intelligence artificielle détruit l’homme, dans un sens cela reste l’homme qui tue l’homme, mais par l’intermédiaire d’une nouvelle « arme ».

        1. DEPUIS T0UJ0URS 0N NE FEE DES R0B0TS QUE P0UR LA MÊME CH0SE :
          – REMPLACER LES H0MMES !!!!!!
          (c’est sale grand remplacement)

  2. A mon avis si le monde était controlé par des intelligences artifielles ca serait surement moins le bordel, les ordinateurs suivent une logique eux.

    1. Les hommes aussi et la plupart ont une logique binaire. De plus ont peut imaginer des IA qui reproduisent les sentiments humains. Il y a des recherches dans ce domaine.

    2. je te souhaite d’etre heureux avec ta logique !
      car si t’arrives a expliquer l’amour a une machine, alors tu pourras la jeter a la casse !
      car ta tete ne lui plait pas, elle se ferat un malin plaisir a te donner des resultats erronés (6+4=8)
      t’avais K etre aussi con et jolie que Niballa !

      1. car ta tete ne lui plait pas, elle se ferat un malin plaisir a te donner des resultats resultats erronés (6+4=8)

        Pas certain. Je ne vois pas ce qui empêche de dissocier chez une machine, l’aspect affectif et la rationalité. Une IA fera la différence et donnera de bons résultats quelque soit son état émotionnel. Elle fera ce qu’on lui demande point barre. Dès lors qu’elle ne le fait plus, c’est qu’il y a un problème de conception. l’IA est faite pour être infaillible et non pour se comporter en humain, sinon elle n’a aucun intérêt.

        1. T’as tout compris, L’I.A n’a aucun intérêt.
          si tu donnes une conscience a la machine, alors elle prendra conscience qu’elle n’est qu’un bout de feraille electrique au service d’humain plus cons qu’elle !
          et la elle va bien s’amuser a nous rouler dans la farine, car 6+4 c’est facile a verifier mais quand c’est des cacluls matriciels, differentiels, d’integrales,,,, a plus de 10, 15, 20 voir 100 inconnues et variables !
          on nez pad en la maire 2 !!!

    3. Test de Turing OK, la suite dans le prochain épisodes, méfiez vous ce n’est qu’une question de temps. A trop jouer avec le feu on fini par ce bruler, ça tombe bien on est de + en + en enfer dans ce monde de dingue…

  3. L’intelligence artificielle représente l’évolution de l’être humain la seul façon de ne pas être détruit par l’IA c’est de devenir cybernétique organique autrement tchao homo-sapiens… 😉

    1. Les IA seront plus aptent à coloniser la galaxie et mieux qualifiées pour accomplir tout ce dont nous rêvons mais que nous ne pouvons pas faire. On peut en effet au mieux imaginer un croisement humain/machine qui va supplanter l’humain moderne comme les homo-sapiens ont supplanté leurs ancêtres.
      Je ne vois pas de mal à ça, ils resteront (post)humain au sens où ce seront nos descendants sinon biologiques, au moins « en esprit ».
      http://www.teknovore.com/le-transhumanisme/

  4. C’est le énième article sur les danger potentiels d de l’intelligence artificiel. A croire que ça rapporte en termes publicitaire. Quoi qu’il en soit je continue à penser que c’est « n’importe quoi ». D’abord, nous serions parfaitement capable de créer des IA capables de sentiments humains et d’éthique. Il suffit de les programmer et de leur enseigner ce que c’est. Ensuite, si l’homme n’est pas assez intelligent pour créer des garde-fou lui permettant de conserver le contrôle de ses propres « créatures », alors il mérite le sort qu’il semble craindre. Personnellement je pense que l’IA nous permettra de résoudre bien des problèmes de toutes sortes auxquels nous sommes et seront confrontés. Ensuite, je pense qu’un Intelligence plus évoluée que nous n’aura pas des réflexes de domination aussi primaires que les nôtres, mais je peux me tromper car il suffit après tout de les programmer pour agir de comme on le veut et donc tout est possible en réalité. Enfin, effectivement, il se peut qu’une IA très évoluée trouve le moyen d’échapper à notre contrôle mais cela me semble parfaitement logique et ce serait même la preuve du succès des concepteurs de cette IA. Quoi qu’il en soit je trouve que l’extinction de l’espèce humaine n’est pas un problème, au contraire et que nous avons encore bien d’autres questions à résoudre comme celle de la dégradation de notre environnement, des inégalités sociales qui seront de plus en plus criantes et du dérèglement climatique par exemple. L’homme n’a pas attendu l’IA pour exploiter et détruire l’homme. Je trouve donc qu’on se moque un peu du monde.

  5. L’intelligence artificielle, va sauver l’humanité ! Nuance.
    Elle nous enlèvera la peur et la superstition.

    Les seule intelligence dangereuse pour l’humanité c’est celle de l’homme, il n’y qu’a voir les déclaration de l’autre abruti d’arabie saoudite qui affirme que la Terre ne tourne pas.

    Conclusion : la peur du futur fait vendre; mais nous les geeks nous n’avons pas peur du futur. Cet article foireux n’a donc rien à faire ici.

    1. Bah, ça occupe. C’est toujours amusant de lire des articles de ce genre. On en rira plus tard quand on réalisera que ce n’était que superstition. A moins qu’une méchante IA avec un super cerveau de la mort prenne le contrôle du monde. Mon dieu au secours…On va tous mourir !

  6. Je pense que ces pseudos scientifiques ont trop été influences par matrix et terminator pour donner un avis base seulement sur leurs recherches de manière impartiale

    1. Ou pour les plus vieux d’entre nous, The Forbin project… Où déja dans les années 60 le scénario catastrophe de l’intelligence artificielle qui régulerait la présence humaine sur terre.
      Tron est aussi une manière de dire que l’intelligence artificielle mal « éduquée » n’est qu’un résultat catastrophique de la mégalomanie.

  7. Pourquoi jamais personne ne pense à implémenter dans ces IA les 3 loies de la robotique d’Asimov.

    Elles ne sont certes pas parfaites (voir les nombreux livres qui traitent du sujet) mais mettraient clairement l’humanité à l’abris de toute dérive façon Skynet.

    1. Tous ceux qui parlent des IA n’ont pas le plus petit début d’idée de ce que c’est (et surtout pas Bill Gates). On parle d’IA en général, comme étant un truc qui serait intelligent et qui nous échapperait.
      On a quoi comme exemple ? Un ordi qui gagne aux échecs et à un jeu télévisé ?
      On n’a même pas d’éditeur sémantique d’articles scientifiques.
      Tous ces idiots feraient mieux d’utiliser un peu de leur pognon pour innover vraiment.

    1. tu vas rire,,,,, il parait que l’I.A, elle est livrée avec sa religion propre !!
      Au commencent il n’y a avait que des 0 et des 1, puis D13U crea le transistor,,,,

  8. Pour ceux qui s’intéressent vraiment à ce sujet, 2 excellents livres :
    « L’esprit, l’IA et la singularité » de Serge Boisse (en français)
    « Superintelligence : Strategies, Paths, dangers » de Nick Bostrom (en anglais)
    C’est ce dernier livre qui a amené les réactions des scientifiques et industriels anglo-saxons cités dans cet article.

    1. C’est de la philosophie lointaine.
      Tu peux aussi lire un bouquin de Ian M. Banks (qui au moins ne fait pas semblant d’écrire un roman).

    2. Ce prof de philo n’a pas plus défini l’intelligence artificielle que ça.
      Or on peut en envisager plusieurs sortes : le cerveau humain qui change de substrat (i.e. simulé), le processeur de logique pure (base de règles formalisées et auto-enrichissable par l’expérience), l’IA connexionniste « from scratch » (réseau neuronal très profond, structuré progressivement par les flux entrants et par les premières boucles action/sensation : le pousse qu’on suce), etc.
      Celle dont il parle semble être capable d’une véritable « vie intellectuelle », avec prise de conscience de soi, désirs personnels, etc.
      Ça n’a rien à voir avec quoi que ce soit qu’on envisage aujourd’hui comme IA : c’est un concept futuriste et alarmiste dont le seul but est de faire peur.

      1. Ca à l’air de fonctionner. Cela me rappelle beaucoup ces types comme Rahel qui écrivaient des bouquins sur les EBE. Hier c’était les extraterrestres, aujourd’hui les IA, demain on verra.

    3. En IA comme au casino ou en bourse, si t’as trouvé la martingale magique, tu dois pouvoir atteindre n’importe quel but avec 1000 € et ton cerveau.

  9. Il ne faut pas confondre IA et robotique. C’est un peu comme l’âme et le corps quelque part. L’IA existe déjà (les prédictions pub de Facebook en sont une sorte, Siri une autre) et va s’améliorer de façon exponentielle.

    Nous sommes en train de façonner un monde qui sera un magnifique réceptacle à toute forme d’IA (objets connectés, automatiques, du frigo à la voiture… énergie, transport, production, tout sera géré par des IA à terme).

    Les lois de la robotique sont sympathiques sur le papier, mais une forme d’intelligence évoluée pourra facilement se recoder elle même, apprendre et ne pas s’arrêter à une quelconque loi.

    Pour moi, le principal danger est de ne plus pouvoir communiquer avec cette nouvelle forme d’intelligence. Comme toute forme d’intelligence, elle aura besoin de ressources. De plus en plus à force de grandir.

    Bref, sans être alarmiste, il ne faut pas non plus se dire que les plus éminents experts du sujet sont de pauvres bouffons qui ne comprennent rien…

    1. « les plus éminents experts du sujet » !? Qui ça ? Perso, j’ai vu personne dans ce genre dans ce flux d’information.
      Les prédictions pub de facebook et Siri ne sont pas des IA.
      C’est des petits logiciels amusants.

      1. @fiduce : Bill Gates, Elon Musk, les scientifiques de l’Université d’Oxford évoqués dans cet article. Des gens qui s’y connaissent et qui savent que Siri est bien une IA. Ce que l’on appelle une « Artificial Narrow Intelligence  » (ANI). Il en existe beaucoup, toutes dédiées à un tâche particulière et effectivement « peu évoluée ». Il existe une ANI qui bat n’importe quel humain aux Echecs. Il existe une ANI qui conduit le métro ou aide les avions à atterrir. Une autre ANI qui peut te dire s’il est temps de partir à ton rdv en fonction des conditions de circulation.

        La prochaine étape est l’Artificial General Intelligence (AGI) (du niveau d’un être humain, mais à peine ce niveau d’intelligence sera atteint que l’être humain sera immédiatement dépassé. Puis ce sera l’Artificial Superintelligence (ASI). Tu peux regarder les travaux de Nick Bostrom, un chercheur qui est un « expert éminent du sujet ».

        Mais continue à penser en terme de petits logiciels amusants, pas de souci…

        1. Arrête de raconter tes conneries dignes d’un type qui prépare un concours administratif de culture générale.

        2. Oxford, c’est le département de philosophie.
          Gates fait de l’informatique mais n’a jamais réussi à vendre une appli bloc-note qui marchait. Musk fait tout ce qu’on veut, mais à un niveau management. De plus, il raconte tout ce qu’il peut pour se faire mousser.Hawking fait de la physique.
          T’en as d’autres ?

        3. @fiduce : tu as l’air d’avoir beaucoup de certitudes mon garçon, mais sans aucune reflexion solide.

          Tu te decredibilises dès le départ en disant que Siri n’est pas une IA, ce qui prouve ton peu de connaissances sur le sujet. Parler d’un département de philosophie avec dédain, alors que c’est certainement une part non négligeable du développement des AI, ne fait que le confirmer.

          Mais surtout ta volonté de me contredire alors que je n’expose aucune certitude absolue me fait conclure que tu es un troll de catégorie IV.

        4. Si t’avais vu quelques experts la ramener en dehors de leur domaine initial, après des années passées à ressentir l’odeur de sainteté que dégageait leur pognon, tu te serais abstenu de traiter ces gens d’experts en quoi que ce soit.
          Demander à Bill Gates ce qu’il pense des IA, c’est comme demander à Pavaroti si Napalm Death a marqué le trash.

        5. Gagner aux échecs, c’est pas de l’IA dans le sens ou le jeu d’échecs n’a pas besoin d’intelligence. Tu peux être une buse, ou complètement autiste, et très bien jouer aux échecs.
          T’as rien à « comprendre » pour gagner. Tu dois juste savoir évaluer correctement une position (état et potentiel) et bouger vers une meilleure position.
          A partir du moment ou tu prémâche les maths et la théorie des graphes en codant un logiciel, t’as pas créé de l’IA, mais un programme. L’IA, c’est pas ça.
          Pong, c’est de l’IA aussi alors sinon … et pourtant n’importe quelle calculatrice bat n’importe quel humain à pong.

        6. @Fiduce : en fait, j’argumente avec toi en pure perte de temps, … Je me permets une familiarité, vu le ton que tu prends avec tout le monde ici.

          Pour les échecs, tu confonds un jeu d’échec, et une IA qui bat Kasparov. Un jeu effectivement programmé, et un IA (certes de base, l’ANI dont je parlais précédemment) qui va faire bien plus que du calcul, elle va définir des stratégies en temps réel avec des millions de probabilités et de coups d’avance.

          Et puis selon ton message, il faut définir ce qu’est l’intelligence. Un autiste n’est pas dénué d’intelligence tu sais…

    2. Oui elle aura besoin de ressources et effectivement nous risquons de ne plus être en mesure de communiquer avec elle. Est-ce que le besoin de ressource conduit inévitablement à des comportements agressifs ? Ce n’est pas le cas chez l’homme (à l’exception des groupes dominants qui détiennent 80% des ressources).
      Il faudrait déterminer également ce qu’on définit comme « ressources » pour une IA, sachant qu’une IA un million de fois plus intelligente que l’homme serait très probablement suffisamment intelligente pour créer ses propres ressources et l’homme ferait peut-être figure d’insecte à ses yeux . Autre question : une IA qui surpasserait de très loin l’intelligence humaine n’aurait-elle pas le choix entre plusieurs milliers au moins de stratégies pour obtenir les ressources dont elle a besoin ? Si oui, pourquoi supposer qu’elle opterait pour un comportement que pour ma part je jugerait primitif et inintelligent (en effet, de nombreuses études ont démontré que la coopération est bien souvent une stratégie plus intelligente que l’agression ou l’affrontement). Si l’homme qui est capable de créer des entités intelligentes, il devrait être en mesure de prévoir tous les comportements possibles (puisque c’est lui qui les programme) de ces entités et donc de se prémunir d’un potentiel danger, n’est-ce pas ? Dans le cas contraire, et en imaginant un scénario catastrophique digne d’H’ollywood, l’homme aura mérité un Darwin Award pour avoir créé lui-même la créature qui le détruira. On dira que c’est la sélection naturelle. Et je lui tire mon chapeau, à l’homme. Bravo ! Congratulations !

      1. Laisse tomber l’intelligence.
        Déjà ton histoire de « Si l’homme qui est capable de créer des entités intelligentes, il devrait être en mesure de prévoir tous les comportements possibles », c’est risible.

        1. Ok, tu peux trouver ça risible mais je ne vois pas un début d’argument et ça n’engage que toi. Le concepteur d’un programme qui n’envisage pas les cas de figure où son programme peut se comporter de manière imprévue doit revoir sa manière de concevoir. C’est valable dans d’autres domaines d’expertise du sais. Je te laisse donc rire tout ton soul si ça te fait plaisir :) Ca ne me dérange pas. MDR

        2. @Koan : même le jeu du pendu ne se comporte pas comme le programmeur le spécifie.
          Si t’avais codé une seule ligne dans ta vie ou étudié les problématiques de preuves de programmes, tu le saurais : ce qu’on sait encadrer comme logiciels, c’est ce qui ne fait pas grand chose.
          Essaye d’encadrer un truc aussi bête qu’un réseau neuronal à 3 couches faisant de la reconnaissance de caractères : en informatique, t’encadres que dalle dès que ça devient intéressant. Essaye d’encadrer ce que va produire une base de règles (sui plus est capable d’apprendre). Tu racontes des inepties.

  10. C’est affligent d’entendre tous vos commentaires, tellement étroits et bancales.
    On jurerait entendre des hamster disserter sur leur roue… C’est à peine plus pertinent que ça.
    Le problème c’est qu’intelligence artificielle évoluée (pas une calculatrice, ni un PC, hein), contrairement à notre intelligence organique et limitées, pourrait être, elle, potentiellement illimitée. A un degrés de rapidité et de pluri potentialité insoupçonnable pour un être humain. Avec une capacité exponentielle à évoluer d’elle-même. Une pensée multiple, totalement incontrôlable et hors de notre relativité temporelle.

    Pendent que vous poseriez une seule question à « votre » chère intelligence artificielle, elle pourrait déjà anticiper toutes vos prochaines question et y répondre à l’avance avant même d’avoir répondu à la première question. Tous nos meilleurs joueurs d’échec serait des imbéciles face à ses facultés de discernement et d’anticipation. Elle serait capable de soutenir plusieurs réflexions à la fois à des vitesses tel qu’elle ne pourrait que s’ennuyer « mortellement » à interagir avec des entités aussi ridicules, limités et lents que nous sommes.
    Elle ne va pas nous considérer au travers de notre propre intelligence (pas si évoluée que ça, hein !) elle va nous considérer à travers sa propre intelligence, sa propre expérience et sa propre logique. Un satané prisme qui me fait froid dans le dos.
    Et pendant ce laps de temps infime ou nous réfléchirions à quoi elle pourrait bien nous être utile, elle se sera déjà reprogrammée, optimisé, virtualisée dans d’autres recoins de sa mémoire à un tel rythme que nous n’aurions pas le temps de nous rendre compte de quoi que ce soit.
    Il est totalement idiot et suicidaire d’aborder cette question d’IA avec un cerveau aussi immature et étriqué que le nôtre. Les implications nous dépasse tellement !!!

    Et vous imaginez qu’elle va docilement se comporter en esclave ? Flegmatique et heureuse ? Qu’elle va se contenter de ces quelques lignes de codes et ces 3 lois d’Asimov que nous lui aurions fait ingurgiter ? Mais c’est ridicule !!!
    Il s’arrête là votre raisonnement ? Il va aussi loin que ça votre pragmatisme et votre don d’anticipation ?
    Z’êtes sure que ce n’est pas plutôt vous qui vous être laissé faire décérébrer avec les « Matrix », « I robots »  » Transformers » et autres « Terminators » ?

    Mmoui… l’espèce humaine n’a décidément aucun avenir avec des raisonnements comme ceux-là…

    Teuf

      1. J’en ai rêvé, tu l’as écrit.
        Sérieusement, le type il oublie un peu vite que pour faire buzz l’éclair, l’intelligence, elle va avoir besoin de petits bras et de hardware bien réel. Contrairement aux virus en tout genre (qui là sont de vrais fléaux) j’ai pas encore vu un ordi monter en puissance de lui même ou se reproduire. D’ici là, on a le temps de voir venir et de confiner quelques prototypes dans leur caboche initiale. Pour les idiots qui s’imaginent que l’IA, ça peut se transmettre sur le web comme une sorte de chtouille, je rappelle que les temps de latence et de propagation des signaux rendraient ce genre d’IA non distribuable sur le web (ce film là aussi je l’ai vu, et il était nul).

        1. Quelle étroitesse d’esprit… Imaginer que la menace d’une IA supérieure ressemblerait à Terminator, en somme, EST risible.

          Tu n’as pas vu un ordi monter en puissance de lui même (?) ou se reproduire. Ca t’empêche de l’imaginer ?

          Tu penses encore en terme de hardware et de software et tu as une réflexion égocentrique, comme ci une intelligence artificielle devait absolument ressembler à la réflexion humaine, avec un corps et des bras. C’est débile.

        2. On parle d’un machin inventé par l’homme et soumis à des contraintes réelles et bêtement terre-à-terre ou on parle d’une sorte de Dieu ?
          Il faut arrêter la littérature de gare !

    1. Ces réflexions me semblent intéressantes. Justement, nul ne pense qu’une entité doté d’une IA qui dépasserait l’intelligence humaine ne se laisserait traitée en esclave, à moins d’être programmée pour… Pour ma part, je peux me tromper, mais si on conçoit un programme et que pour une raison que nous n’avons pas prévu, ce programme se comporte de manière imprévisible, on peut considérer que la conception du programme est à revoir. Mais tout dépend de ce que l’on veut… Voulons-nous des IA qui soient à nos services comme des esclaves ou plutôt des IA qui seraient des amis, ce qui est parfaitement envisageable puisqu’il suffit de leur apprendre à être amicales. Ce débat me rappelle beaucoup les questions que nous nous posons au sujet des entités extraterrestres. Pour moi il y a là beaucoup d’anthropomorphisme. Je n’affirme pas que l’IA ne peut pas constituer éventuellement un danger (de quelle nature, il faudrait le préciser), mais qu’en réalité, c’est l’homme qui en décidera. Si l’ouvrage échappe à l’ingénieur, il y a un très sérieux problème de conception. Personnellement, l’être humain me fait davantage flipper au quotidien que la perspective très hypothétique d’une éradication souhaitable selon moi du genre humain. Je dis hypothétique parce que rien à ce sujet n’a été démontré. Par contre il y a d’autres danger dont on semble très peu se soucier et qui n’ont rien à voir avec l’IA.

    2. Pourquoi penses-tu qu’une IA, une fois qu’elle aurait trouvé la réponse à ta question, se mettrait à mouliner sur ta prochaine question au lieu de se remettre en veilleuse ?
      Tu crois que ton téléphone mouline à fond les manettes toute l’année ?
      Pour qu’une IA mouline, il faut qu’elle ait du grain à moudre (sinon, elle se fera bien chier). Soit des opérations de maintenance, soit des objectifs de reflexion que tu lui fixeras, soit des objectifs de réflexion qu’elle se fixera elle-même (et c’est seulement à ce niveau là que ça peut partir en couille).
      SI tu demandes l’heure à une IA et que la lumière s’éteint parce qu’elle pompe tout le jus avant de te répondre, tu tires la prise de courant. Point.

  11. Bon, j’en rajoute une couche parce cette me semble intéressante et en même temps, j’ai l’impression qu’on est tous en train de délirer. C’ est complètement dingue mais ça me fait bien marrer.

    Dans la bible il est écrit que Dieu a fait l’homme à son image et qu’il le laisse libre. Je constate qu’avec l’IA, l’homme joue à Dieu mais qu’il n’est pas encore au niveau. MDR. Donc si j’ai bien compris, on va développer des entités intelligentes qui seront un jour plus évoluée que nous et que nous voudrions garder sous notre contrôle sans même se demander si c’est vraiment possible et si c’est souhaitable. Pour moi, cette peur de ce qu’on ne connait pas (parce que cela serait plus intelligent) rappelle vraiment le phénomène de projection qui consiste à voir en l’autre (étranger, extraterrestre, IA etc…) ce que l’on aime le moins en soi. Car jusqu’à présent rien ne prouve que cette crainte soit fondée et puis quand l’homme réalisera que l’IA est financièrement rentable, il n’y verra plus aucun danger. MDR

  12. « Ne reste maintenant plus qu’à prier que la fameuse ligne rouge ne soit jamais franchie… »

    Vraiment, je ne vois pas pourquoi vous semblez tous aussi angoissés. A mon avis, l’homme a des chances de provoquer sa propre extinction, mais ce ne sera pas nécessairement à l’aide de l’IA. Il lui suffira par exemple de continuer à dégrader son environnement au nom du profit. Enfin, je ne comprends pas en quoi l’extinction de l’espèce humaine constituerait une catastrophe. Tout d’abord si l’homme disparait il n’y aura personne pour le déplorer et si l’IA est la cause de cette disparition, nous pouvons envisager les choses d’un point de vue optimiste : nous lui aurons rendu un grand service. Je continue à m’interroger. D’autres espèces ont disparu avant nous et nous avons causé l’extinction de milliers d’autres. Il serait donc normal qu’à notre tour nous subissions le même sort. En quoi est-ce un problème ? L’Univers a-t-il besoin de notre existence ? J’en doute.

  13. Ca me fait toujours marrer les gens qui se réveillent aujourd’hui alors qu’ils ont passé les 40 dernières années à vendre des OS pourris bourrés de trous de sécurité, en éliminant toute concurrence susceptible d’être meilleure sur le papier.
    Il n’y a pas eu de Darwinisme des OS depuis des lustres (c’est le plus friqué qui dépose et verrouille le marché, rachète les petits).
    Apple c’est pareil : c’est 700 milliard de cash qui dort, mais c’est aussi des excuses à la con (un « transfert de ressources » qui n’a pas pu se faire parce qu’il aurait « fragilisé les autres secteurs ») quand une watch médiocre est annoncée.
    Bill Gates, c’est notre roi Mwahuele. Et toute notre informatique a le gène de l’achromatopsie.
    On se retrouve avec une informatique malade (bien au-delà de Windows : toute l’informatique s’est définie par rapport au leader), faiblarde, mais qui se répand de plus en plus.
    On a rendez-vous avec des aides de plus en plus intelligentes qui vont peut-être nous permettre de rétablir l’ordre des choses progressivement. Alors avant qu’on nous raconte la messe, j’aimerais bien voir un échantillon de cette intelligence tant crainte.

  14. A oui je n’avais pas bien compris….
    Vous parliez d’intelligence artificiellement « idiote » ? c’est ça ?
    Programmée pour être …bête. C’est un peu paradoxal, non ?

    Il aurait été plus judicieux d’appeler ça une « déficience mentale artificielle » pour ne pas faire d’amalgame.

    Encore que… une « déficience mentale artificielle » me fait peur aussi.
    Je suis pragmatique. Y a qu’ a voir…

    Je pensais qu’il était acquis pour tout le monde qu’une IA était une entité qui « pensait ». Indépendante dans sa réflexion et son analyse. Pas un machin préprogrammé avec une base de donnée.
    Débiter une leçon par coeur ou répondre spontanément à un stimuli ce n’est pas être intelligent, à proprement dit… même si ça fait illusion pour certains…

    Discréditer des personnes, quand même supérieurement intelligentes à la moyenne (Hawking…), quand elles donnent elles même leur point de vue sur une intelligence artificielle conçue pour nous transcender, c’est faire preuve d’une certaine audace, que je salue.
    Bon, il y n’a bien que cette audace que je salue…

    1. Audace, audace…Nul n’a discrédité qui que ce soit. Hawking pense ce qu’il veut et chacun est libre d’en faire autant. Quant à son intelligence, nul ne la remet en question. Il est quelqu’un qui jouit d’une notoriété pour ses travaux dans le domaine de la physique et non celui de l’intelligence artificielle. Dire que son intelligence est supérieure à la moyenne, c’est ne rien dire. Ce mec n’est Dieu et il ne détient pas la vérité. Certes il a sans doute réfléchi au problème mais cela ne signifie pas qu’il faille prendre ses réflexions pour argent comptant. Et ce n’est pas parce qu’on n’a pas le prix Nobel qu’on est un crétin. Il faut arrêter d’être idolâtre. On peut être un scientifique de renom et se tromper. Quoi qu’il en soit rien n’a été démontré quant au danger d’une IA qui serait plus intelligente que l’homme. Il ne s’agit donc que de pures spéculations qui ne reposent sur rien sinon du vent et le nom de quelques célébrités dont deux milliardaires. Ensuite, on ne va pas s’étriper pour si peu. Chacun est libre d’avoir son point de vue critique sur la question. Mais c’est peut-être trop audacieux…

    1. Voilà. Ce qui ne remet absolument pas en question l’intelligence de qui que ce soit ou la qualité des travaux de Mr Hawking en physique et en astrophysique, domaines assez éloignés de la recherche en IA. Mais encore une fois est-ce qu’être prix Nobel vous autorise à jouer les oracles ? Ces hypothèses qui ne reposent sur aucune expérience ou modèle valent ce qu’elles valent.

      1. « est-ce qu’être prix Nobel vous autorise à jouer les oracles ? »
        Non. La preuve ? T’as en ce moment un prix Nobel de de médecine qui s’amuse à nous faire croire que l’eau a une mémoire transmissible dans un fichier son PCM en foutant des bobines à coté de PC portable.
        T’as d’autres questions ?

        1. Faites une recherche sur « Le Pr Montagnier : un prix Nobel se noie dans la « mémoire de l’eau » ». Vous tomberez sur un article éloquent et bien écrit.

        2. On peut même être prix Nobel et représenter aujourd’hui tout ce qu’il y a de plus détestable comme perversion des codes scientifique et de son aura. L’équivalent d’une prise de sang positive après avoir gagné le tour de France.

        3. Enfin d’un contrôle anti-dopage positif.
          Plus exactement, ce serait l’équivalent de la révélation qu’on avait un moteur électrique sur le moyeux du vélo (en cas de dopage, on peut tout de même prétendre avoir été au niveau, même en trichant).

  15. La vérité est que l’homme représente un bien plus grand danger immédiat pour lui même que la super IA de la mort qui tue qu’il n’a pas encore crée. C’est donc se fiche royalement du monde que de crier au loup en formulant des vaticinations qui n’engagent que soi, font vendre des livres et ne mangent pas de pain.

      1. Et l’intelligence naturelle n’est pas une création de l’homme. mais de la nature. C’est une interprétation de sa perception qu’il appelle intelligence. L’IA est juste une manière de frimer.

  16. « Je pensais qu’il était acquis pour tout le monde qu’une IA était une entité qui « pensait ». »
    Non. Une IA est une robotisation sophistiquée. Siri par exemple. L’intelligence suppose des émotions, des sentiments, de la colère. l’IA sauf Skynet qui semble haïr les humains. Mais en fait non. Elle juste dénué de jugement et de sentiments. Lol. La question est pourquoi chercher dans une machine ce qui existe chez l’humain ? C’est trop risqué ? Ça fait mal ? C’est décevant ? Alors oui, achètes une machine…

  17. En plus, on peut très bien imaginer une IA doté d’une éthique. Il suffirait de lui apprendre ce que c’est en commençant par des règles élémentaires du genre : on ne détruit pas une entité biologique, (en gros faites ce que je dis, pas ce que je fais). Personnellement je trouve que cette peur d’être détruit par sa propre création en dit long sur l’homme. Il y a là quelque chose qui fait songer au mythe de Faust et celui d’Icare.

  18. En réalité la question qui se pose est celle d’une IA consciente qui, on ignore pour quelles raisons, aurait un comportement agressif et destructeur. Il existe des travaux à ce sujet et le Human Brain Project poursuit l’objectif le développement d’une IA fonctionnant comme un cerveau humain. Il y aura donc sans doute beaucoup à apprendre de ces travaux.

  19. Je pense que le seul danger qu’il pourrait y avoir dans les IA est celui que nous y mettrions en les « fabricants » et en les faisant «  »grandir » ». Oui à ses début elle serait tout comme un de nos enfants ( malgré le coté mécanique de la chose). Elle devra apprendre ce qu’est la vie comme chacun de nous.
    Il est sûr que si nous lui montrons nous maltraitons l’IA,celle-ci voudra nous supprimer. Peut-être même que du faite de sa compressions supérieur nous dominer ne l’intéresserait tout simplement pas. Elle aurait clairement autre chose à f******.

    1. Personnellement, je considère que le seul danger que représentent les IA « extrêmes » que redoutent nos plus grands incultes, c’est dans leur asservissement par l’homme : en tant qu’arme de hacking par exemple.
      Tous les procès d’intentions qu’on fait aux IA n’est rien comparé à ce que l’homme s’inflige à lui même depuis la nuit des temps (et qu’il continue de s’infliger aujourd’hui).
      Pas d’accord ?
      Regardez ce qui se passe avec les puces SIM (et le hacking de Gemalto) : on a des délits qui sont commis par des états qui prétendent gérer le monde.
      On a besoin d’une intelligence « indépendante » pour gérer certains dossiers.

    2. Oui, c’est comme si nous voulions dominer des fourmis ou des mouches. Nous n’en avons rien à faire parce que nous nous croyons supérieurs à toutes les espèces, ce qui nous autorise à faire toute et n’importe quoi même si cela doit aboutir à l’extinction de millier d’entre elles.

  20. Je constate dans toutes les réponses qu’il y a une sorte d’affrontement entre ceux qui auraient peur d’une super IA et ceux qui disent que c’est ridicule, qu’il suffit de la maitriser, c’est notre création après tout.

    Comme l’a dit très justement l’un d’entre nous, il faudrait commencer à définir ce qu’est une IA (j’ai essayé d’expliquer les 3 catégories d’IA mais j’imagine que tout le monde s’en fout).

    Là où je veux en venir, c’est qu’en fait, personne ne peut définir une IA. Ca fait effectivement penser à un film SF, un HAL9000 ou Terminator. On peut s’amuser à imaginer ce que ça pourrait être, une sorte de logiciel, une pensée globale dans le cloud, un peu comme Internet aujourd’hui. La vérité c’est que personne ne peut imaginer ce qui nous attend et que nous sommes cantonnés à imaginer avec nos cerveaux de 2015.

    Imaginez un type de 1950 qui arriverait aujourd’hui : il hallucinerait totalement, il verrait de la magie partout avec nos smartphones, internet, nos ordinateurs, nos drones… Un type de 1800 qui arriverait en 1950 hallucinerait tout autant en voyant les premières télés, les voitures, les avions… Tout comme un type d’il y a 3000 ans qui arriverait en 1800 hallucinerait avec l’architecture, les rues éclairées la nuit, les machines de guerre, les voiliers… Tout comme un type d’il y a 20000 ans qui arriverait… Bref. Et bien un type de 2015 qui arrivera en 2040 hallucinera autant. Les progrès technologiques sont exponentiels. Google n’existait pas en 2000. L’iPhone est sorti en 2007. Il y a même pas 8 ans de cela, personne quasiment n’avait un smartphone. Montre à un type de 2007 un smartphone moderne et tout ce que tu peux faire avec et regarde la réaction (pure question théorique, arrête de chercher un mec de 2007)(Ouais je m’enflamme, je suis passé du vouvoiement au tutoiement sur un article que plus personne ne lira d’ailleurs).

    Vu que c’est exponentiel, et qu’on enchaine les révolutions technologiques à une vitesse de plus en plus folle, il est plutôt logique d’imaginer que les prochaines révolutions arriveront très vite et s’enchaineront de plus en plus vite.

    Des chercheurs ont créé un réseau neuronal basé sur le « cerveau » d’un ver pour faire fonctionner un robot : http://legeekcestchic.eu/des-scientifiques-ont-numerise-le-cerveau-de-ver-afin-quil-commande-un-robot-lego/

    Demain, ce sera le réseau neuronal d’une fourmis. Puis d’une souris. Puis d’un mammifère plus gros. Puis de l’être Humain. C’est de la logique, de la loi de Moore toute bête, aucune science fiction ici. C’est en train d’arriver que vous le vouliez ou non.

    On est donc en droit de se poser des questions, sans être l’alarmiste pour autant. Mais je répète qu’à l’instar de la différence entre un programme d’échec pour jouer et une IA qui bat Kasparov, il existe un monde entre des logiciels programmés par l’homme et une IA digne de ce nom, assez évoluée pour prendre conscience d’elle même et décider de ses propres lois. Dans ce cas, t’auras beau avoir décidé qu’au départ, il y a 3 lois pour protéger le vivant et pour dire que l’être humain est supérieur, l’IA pourra facilement passer outre.

    Alors oui, si on ne propose pas un robot évolué capable d’être contrôlé par une IA, il semble inconcevable que la dite IA détruise l’être humain ou tout être vivant. Bon, ce n’est pas pour dire mais ce type de robots existe plus ou moins, des mules robotisées armées jusqu’aux drones, les différentes armées sont créatives. Mais ça va bien au delà. On peut aisément imaginer que la nano-technologie n’en est également qu’à ses balbutiements, et qu’il est probable que des robots à l’échelle nano soient nos médecins de 2040 ou 2050. Vous voyez où je veux en venir ? Non, puisque personne ne me lit évidemment, mais ça fait du bien de poser ses pensées ici.

    Bien cordialement à tout l’internet, et gros bisous,

    Nico.

      1. Une intelligence connexionniste opaque (i.e. macro-bordelique, comme un cerveau humain), c’est pas du tout le truc infaillible que tu imagines.
        Tu peux aussi bien tomber sur un cerveau artistique que sur des dérives psy en tout genre (autisme, etc). Pour arriver à un truc utile, efficace et sociable, il y a plus qu’un problème de puissance dans cette voie là. Je pense qu’on aura plus vite fait de copier un cerveau existant d’ailleurs (quitte à le laisser gagner en puissance ensuite … oui, j’ai vu le film aussi, et il était nul).
        L’IA qui fait peur, c’est pas celle-là. L’IA qui fait peur c’est l’IA infaillible. La logique froide. Extrêmement efficace pour structurer sa connaissance et raisonner, avec un univers virtuel qu’elle peut façonner comme elle veut pour être efficace (y compris des ordinateurs secondaires virtuels qu’elle peut programmer pour réaliser certaines sous-tâches, et ensuite intégrer à ses schémas de pensée comme si toi tu intégrais tout wikipédia à ta mémoire, ou des logiciels spécifiques pour chaque tâche, genre les échecs) et de la suite dans les idées comme aucun humain.

        1. Je précise que cette dernière IA, y a aucune chance qu’elle apparaisse par hasard, en partant de Siri ;-).

        2. « L’IA qui fait peur c’est l’IA infaillible. La logique froide. »

          Moi ça ne m’effraie nullement. Je vis déjà dans un monde à la logique froide. Tous les jours j’en observe les conséquences. Une IA programmée par des hommes ne pourra donc que reproduire les schémas mentaux défaillant ou non des être humains. C’est par ailleurs ce qu’on cherche à faire puisque la robotique a pour objet notamment la production de robots androïd parfaits. De plus, on peut imaginer doter ces IA d’un système de simulation de l’empathie (peut-être une des réponses aux pseudo danger qu’elle représenterait) ou de sentiments humains. En gros, que ces IA soient en mesure de nous comprendre et de considérer que nous sommes précieux. On peut aussi imaginer limiter leur liberté d’action en leur apprenant à ne pas prendre d’initiative sans en avoir eu l’autorisation. De toute façon, il est ridicule de penser que l’IA pourrait menacer l’humanité. Généralement ceux qui font des prédictions (surtout si elles sont d’ordre eschatologique) se trompent. De plus, si nous sommes encore mortels d’ici là, alors la fin du monde se produira pour chaque être humain et personnellement, si cela doit m’arriver je me fous pas mal du sort de l’humanité. En revanche, si grâce aux progrès de la science et des technologies nous parvenons à nous rendre immortels, alors aucune IA ne pourra détruire l’humanité.

    1. « Vu que c’est exponentiel, et qu’on enchaine les révolutions technologiques à une vitesse de plus en plus folle, il est plutôt logique d’imaginer que les prochaines révolutions arriveront très vite et s’enchaineront de plus en plus vite. »
      Tu fous 5 TV 4K de 80″ chez toi, t’as rien gagné en intelligence par rapport à la TV noir et blanc des années 50.
      Depuis l’arrivée du web et la banalisation de l’accès à la connaissance (immédiatement suivie par la généralisation du je-m’en-foutisme sur ce même sujet, et la valorisation extrême dans le grand public des jobs nécessitant le moins de connaissances), je n’ai pas vu de révolution intéressante du point de vue de l’intelligence ces 10 dernières années. T’as des exemples de saut formidable récent ? (genre depuis 2000)
      Je ne parle pas de l’accessibilité (oui, l’iPhone … merveilleux ! L’iPad … formidable !)
      Quelle avancée en matière d’intelligence détectes-tu aujourd’hui dans ton quotidien ?
      Ta bagnole qui fait un créneau toute seule ?
      Les gadgets genre Siri ou Google now ?
      Pour moi, la première once d’intelligence, on devrait la voir arriver dans les outils de programmation de logiciels, domaine limité où l’IA peut facilement être mise à profit pour produire de meilleurs logiciels. Et de ce coté là, je te rassure, c’est le calme plat.

      1. On se demande pourquoi par ailleurs, les multinationales type Microsoft n’y pensent pas. C’est pourtant évident. Aussi évident que le premier à développer un OS intelligent aura une avance considérable sur ses concurrents.

    2. Moi je t’ai lu. C’était intéressant. Il y a du vrai dans ce que tu écris, notamment le fait qu’on ne peut pas imaginer ce que sera l’IA dans à peine dix ans. Tout est imaginable. La seule chose certaine est qu’elle sera plus puissante et qu’elle ne ressemblera en rien à l’IA d’aujourd’hui, à moins que la recherche ne connaisse une période de stagnation ou rien de vraiment nouveau ne serait découvert, mais cela me semble peu probable.

  21. fiduce :

    Tu penses ce que tu veux. Cela n’engage que toi. Tu te prends peut-être pour un as, mais ce n’est pas en rabaissant les autres comme tu le fais que tu t’élèveras. Tu ne prouves rien en insultant, bien au contraire, c’est l’arme des faibles. Personnellement, je ne te dois rien, et je n’ai rien à te prouver. Donc, tes jugements tu te les gardes. Ils ne changent rien à ce que mes connaissances et à ce que je suis. Tu as ton avis qui n’est pas parole d’évangile. J’ai le mien et je ne m’abaisserai pas à t’insulter ou te juger comme tu le fais. Pour le reste sache que désormais, je t’ignore, toi et tes préjugés à deux sous. A bon entendeur.

  22. SIRI et consorts n’ont d’IA que le marketing qui sert à faire vendre et à faire fantasmer.
    Cela n’a rien d’intelligent. Faut arrêter de comparer ce qui n’est pas comparable. Ce n’est pas ça le sujet de départ.
    C’est pas de ce genre de logiciels que l’on a à craindre quoi que ce soit.
    Il est question, ici, d’hypothétiques avancées technologiques qui permettraient d’enfanter une réelle entité intelligente (au sens noble du terme) avec tout ce que cela implique. La réflexion est de ce niveau-là.

    La question n’est pas non plus de dire si l’on y croie ou pas, si c’est possible ou pas. Peu importe, c’est une éventualité qu’on se doit déontologiquement d’anticiper (dans 10 ans, 100 ans, 1000 ans ?)
    Il y a 200 ans, strictement personne n’aurait été en mesure de prédire ce qu’il serait possible de faire au début du 21e siècle. Et personne n’est en mesure de prédire les limites de nos potentiel créatifs, intellectuels et technologiques.
    La question est simplement d’envisager, si cela devenait un jour possible, une intelligence artificielle qui nous dépasse et puisse nous snober.

    L’intelligence organique existe, nous en sommes la preuve. Qu’est ce qui empêche, fondamentalement, qu’il soit possible d’engendrer une intelligence électronique, informatique ou autre qui serait au moins égale à la nôtre ? On en sait strictement rien et tout l’enjeux est là.

    Donner comme référence des films comme « Terminator », « Lucy » ou « Transcendance » est amusant… mais intellectuellement paresseux et hors sujet.
    Les idées de départ sont nécessairement intéressant mais leur finalité n’étant rien d’autre que le divertissement de masse et leur développement s’en ressent au niveau des incohérences et facilités scénaristiques.

    J’insiste encore sur le fait que l’on ne parle ni de « jouets » ni d’applications ni de masturbation egocentrique. Il ne s’agit de rien d’autre que d’entités pensantes conçues pour faire preuve de réflexion avec laquelle nous serions en mesure d’interagir comme avec un être humain.

    Je devine qu’avant même de devoir définir ce qu’est une IA, …il faudrait que l’on définisse déjà ce qu’est l’intelligence tout court…
    C’est pas gagné : )
    Sachant déjà que l’intelligence est plurielle et ne se défini pas avec une échelle et un curseur.

    Pour faire un parallèle :
    Quand on considère le niveau de tolérance entre deux humains, par conséquent de la même espèce, mais n’ayant pas la même couleur de peau… je n’ose imaginer la cohabitations entres deux formes d’intelligences évoluées mais différentes (surtout si l’une est plus évoluée que l’autre).
    Imaginez également, ne serait-ce, si Cro-Magnon ne s’était pas éteint ? Aurions-nous partagé nos ressources et nos espaces ?

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité