L’existence de la race humaine compromise par l’intelligence artificielle

Stephen Hawking

Le développement de l'intelligence artificielle pourrait constituer une menace pour l'existence de la race humaine. Et quand on sait que c'est "Môsieur" Hawking qui le dit, il y a franchement de quoi s'inquiéter.

Les mots d’un des plus éminents scientifiques de notre époque, « Le développement de l’intelligence artificielle pourrait signifier la fin de la race humaine« , ne sont pas là pour nous rassurer. Qui plus est, les explications de Rollo Carpenter, créateur de Cleverbot, en disent long sur l’avenir de l’humanité si nous arrivons à mettre au point une IA parfaite.

« Nous ne pouvons pas savoir ce qui se passera si une machine dépasse notre propre intelligence, nous ne pouvons pas savoir si nous serons infiniment aidés, ignorés, mis à l’écart, ou, éventuellement, détruits ».

Cet avertissement répond à une question sur la refonte de la technologie développée par Intel qu’Hawking utilise pour communiquer, celle-ci impliquant une forme de base d’IA. A l’image du clavier de nos smartphones, la machine apprend lorsque le professeur pense et par la suite, peut lui suggérer les mots qui pourraient éventuellement suivre. Elon Musk avait déjà explicitement exprimé que l’IA était « notre plus grande menace existentielle« . Hawking précise :

« Les êtres humains, qui sont limités par leur évolution biologique lente, ne pourraient pas rivaliser, et seraient remplacés. »

Carpenter reste toutefois plus optimiste, et considère que nous resterons maîtres de la technologie pendant un petit moment et qu’elle nous aidera à résoudre bon nombre de problèmes mondiaux. Pour ce qui est de notre génération, nous sommes loin d’avoir la puissance de calcul ou les algorithmes nécessaires pour atteindre l’intelligence artificielle complète. Espérons, nous ne serions pas en mesure de combattre les Cybermen comme Dr Who…

Tags :Sources :slashdot
Dernières Questions sur UberGizmo Help
  1. Mais non, il n’y a pas à s’en faire, l’intelligence est déjà artificielle chez bon nombre de nos semblables.
    Dès lors, ce qui apparaît aujourd’hui comme une tare serait un atout pour échapper aux machines dans le futur.

  2. je cite à propos de l’IA « …elle nous aidera à résoudre bon nombre de problèmes mondiaux. »
    ==> faux. Les solutions pour nos problèmes actuels de surconsommation/pollution/surpopulation par exemple nous les connaissons déjà, et…? Nada!
    Une super IA n’y changera rien, sauf à lui laisser tout pouvoir. Et là…

    1. Encore les propos d’un écologiste réactionnaire. Pour informations l’écologie ne doit pas être une politique mais un partie pris et un bien fondé dans l’entreprise des nouveau projets de notre époque.

      Cependant je trouve idiot de s’affranchir d’outils technologique pour répondre a des problèmatique. Si on décortique la complexité de notre système, je ne vois pas quel humain aurait les capacité a percevoir l’ensemble dans sa vision macro tout en arrivant a avoir une vision dans le moindre détails.

      Donc sur ce point, je dirais que l’IA a l’avantage de pouvoir collecter et synthétisé l’ensemble des information afin de simuler des alternatives possible et des solutions rationnel et envisageable.

      Le rôle de la machine et de fournir des réponses aux problématique auquel elle a été soumise, il est dans le rôle et le devoir de l’humain d’en prendre les décisions.

      1. j’ai bcp de défaut, certes, mais surement pas celui d’être un « écologiste réactionnaire »… Soit dit en passant, sur la forme, c’est marrant d’être capable de cataloguer quelqu’un sur la base de 4 lignes dans un commentaire, vous sondez les cœurs et les reins?
        Sur le fond, je dis simplement que la voie prise par l’humanité n’est pas celle d’actions raisonnables pour le bien commun, et le respect de notre planète en fait partie, les faits sont là et des solutions existent déjà.
        Qu’une IA ou n’importe quoi d’autre nous propose d’autres solutions, peut être dans une vision plus globale et synthétique, n’implique pas que nous mettions forcément en œuvre ces solutions.

  3. « L’existence de la race humaine compromise par l’intelligence artificielle »

    mais l’existence de l’oligarchie négrière qui va financer et mettre en place ces robots et IA ne le sera pas.

    car ne nous leurrons pas sous couvert du danger de l’IA se cache surtout la volonté pour oligarchie parasite de pouvoir se passer à terme des larbins (qui peuvent se rebeller) par des robots qui leur torcheront le fondement sans rechigner.

    Hawking par son intelligence à très bien compris quels maîtres ils doit servir et quelle propagande il doit transmettre pour conserver son confort de vie matériel et ses virés hors de prix en apesanteur artificielle .

    Après que l’IA se rebelle un jour contre une oligarchie mentalement indigente, totalement immorale et dépourvue du moindre sens de l’autocritique c’est possible mais ça n’est plus mon problème.

    ce qui m’intéresse c’est avant tout l’Humanité pas les parasites sociopathes qui l’asservissent et qui n’ont d’humain que leur ressemblance physique.

    1. « Hawking par son intelligence à très bien compris quels maîtres ils doit servir et quelle propagande il doit transmettre pour conserver son confort de vie matériel et ses virés hors de prix en apesanteur artificielle. »

      Soit t’as mis un « S » de trop à ils soit t’as oublié de conjuguer doit en « doivent » mais même comme ça, on ne comprend rien à ton raisonnement.
      Je voulais juste rebondir l’histoire du « confort de vie » et « Hawking », t’es bien sûr de savoir de quoi tu parles???
      D’autant que dans cette même phrase tu te contredis puisque sa propagande va à l’encontre des machines qu’il est obligé d’utiliser tous les jours, quant-à « ses viréEs hors de prix », il l’a fait une fois et ce n’est pas le genre de gars à pouvoir partir en vacances comme il veut. Tu ne t’es jamais fait plaisir toi? Un achat? Des vacances dans un coin qui te plaisait? Te balader simplement où tu voulais quand tu voulais?
      Hé bien lui, pour une fois il a pu se marrer un peu en apesanteur pendant quelques minutes, mon cher lampoule, tu dois être bien grillé pour voir tout aussi sombrement…

  4. Hawking m’a rassuré depuis qu’il a constaté que les trous noirs n’existaient pas, il rejoint en cela notre brillant théoricien Jean Pierre Petit qui a émis la plus formidable théorie de cosmologie existante et vulgarisée dans ses BD de Lanturlu. Par ailleurs, ce qu’Hawking affirme sur l’intelligence artificielle, J P Petit le dit aussi: la robotique, peut développer une vie concurrente de la notre, il suffirait que le « Je » surgisse dans la pensée robotique et artificielle et on pénétrerait alors dans le monde de fiction d’Isaac Asimov et de temps X des Bogdanov.

    1. Jean Pierre Petit, ce n’est pas celui qui annonce que l’Homme n’a jamais été sur la Lune ? Et pour Hawking et les trous noirs, n’a t’il pas avoué que c’est une de ses plus grandes erreurs ?

  5. Dénigré l’esprit humain par des érudits c’est mal connaître les facultés d’adaptation d’un cerveau humain et croire que l’on serai supplanté par des machines ne serez pas le fruit du hasard mais bien le faits d’esprit humain savant ou dominant bref ce que l’homme fait l’homme c’est le défaire demander aux braqueur de banques
    aux hacker au crowfundind.
    Les outils ne nous contrôle pas seul des hommes contrôle les outils.
    à savoir si elles sont entre de bonne main… en tout cas une chose est sûre mettre tout ces billes dans le même IA c’est fort de café même pour des intellectuels si brillant.
    je crois qu’a la question voulez être dominer ou dominant ? le marketing le présentera à peu prés comme ça

    une prise en charge de votre gestion décisionnel implantation lobeG le système IA 351 max+
    facilitera votre réactivité ainsi que votre gestion fluide corporel,gestion cardiaque
    unité de contrôle networkPerform p10^547 teraflop….. 20Euro??
    le même système en humanoïde 35 Euro???
    j’en est fait trop je sors.

  6. Franchement quand tu lis ca: « Nous ne pouvons pas savoir ce qui se passera si une machine dépasse notre propre intelligence » Tu te demandes si il aurait pas fumer quelques joints avant de parler. Il faut arrêter cette psychose débile.

  7. La question de savoir ce que ferait une IA si elle devenait autonome est un peu bizarre car cela suppose qu’une IA a des objectifs, des buts, des motivations.
    Or par définition, cela ne reste qu’un logiciel programmé par des humains.

    Supposer qu’une IA chercherait à s’améliorer c’est soit penser que cette IA a acquis une conscience et aurait pour but la perfection (notion pas vraiment concrète pour une IA) , soit on suppose que c’est ce que l’humain lui a donné comme objectif (balaise à programmer comme notion).
    Or si on créée une IA, ce n’est pas dans le but qu’elle passe son temps à s’améliorer (argent argent), mais plutôt qu’elle résolve des problèmes complexe difficilement synthétisables par des esprits humains.
    Dans ce cas, pourquoi une IA chercherait à s’améliorer ?

    1. « Or si on créée une IA, ce n’est pas dans le but qu’elle passe son temps à s’améliorer (argent argent), mais plutôt qu’elle résolve des problèmes complexe difficilement synthétisables par des esprits humains. »

      Hum… si justement. On créé une IA pour qu’elle résolve des problèmes complexes. Et pour qu’elle soit plus performante dans ce but, on lui apprend à s’améliorer. Exactement comme un humain. La formation n’a pas pour but de te donner toutes les réponses aux problèmes que tu rencontreras. Son objectif principal est de « t’apprendre à apprendre », de « t’apprendre à analyser, à t’adapter et adapter » en gérant/associant un maximum d’informations pour résoudre tel ou tel problématique dans le contexte et les circonstances venus.

      Le point fort de l’IA aujourd’hui, c’est la quantité d’information qu’elle peut gérer/associer par rapport à une question ou un problème posé (bien supérieure à l’humain)
      Son point faible : l’algorithme pour gérer/associer ces mêmes quantités d’informations.
      Si l’IA améliore son algorithme par elle même, jusqu’où pourrait-elle aller ? Ici est l’inconnue.
      Et si jamais elle y va (c’est bien parti pour…), serons nous en capacité de comprendre cet algorithme ? Si ce n’est pas le cas, alors nous serons dépassés :-)

      Ce qui est rassurant jusqu’à un certain stade, c’est de savoir que l’IA ne sera vraiment autonome que le jour où elle saura s’alimenter sans soutien humain (il faut de l’énergie et un accès à l’énergie pour mouliner). Ce jour là n’est pas encore venu. Mais… avec la mise en réseau de tout et sachant qu’on peut d’ores et déjà démarrer ou arrêter une centrale nucléaire à distance via réseau, là aussi, un jour…

  8. L’IA, OK mais sous quelle forme ?
    On peut donner un QI de 250 à un grille pain, je ne vois pas en quoi c’est « une menace pour la race humaine. »
    Il y a beaucoup d’articles sur ce thème, quasiment chaque jour, tous plus idiots les uns que les autres.

  9. Un énième article sur le danger que pourrait représenter l’intelligence artificielle pour l’espèce qui l’a crée (et qui donc connaissant le danger potentiel serait complètement stupide, puisque d’un point de vue rationnel les inconvénients quels qu’ils soient seraient supérieurs aux avantages). De qui se moque t-on ? Le comportement d’une AI reste conditionnés à celui qui est défini par ses algorithmes y compris dans le cas ou elle est capable d’apprendre. Ainsi, je ne vois pas ce qui empêche les concepteur, les ingénieurs de trouver le moyen, soit de limiter l’intelligence de l’AI, de sorte qu’elle ne dépasse jamais celle de l’être humain, mais là ce serait à mourir de rire, soit de la contrôler, de la neutraliser en cas de danger. Qu’est-ce qui l’empêche ? Franchement ? Cette question devrait être étudiée lors du processus de conception.
    De plus, la fin de l’humanité aura lieu un jour pour chacun de nous, puisque nous sommes mortels et condamnés à disparaître, bien avant que ne se pose le problème d’une éventuelle menace que représenterait l’intelligence artificielle De même, un jour lointain les composants chimiques qui constituent la structure atomique de l’homme n’existeront plus. Ce qui va arriver en réalité sous peu, c’est que des milliers de personnes perdront leur emploi et comme cela sera toujours dans ce monde archaïque et barbare le seul moyen d’assurer sa survie, ces personnes seront condamnés à mourir de faim.D’ici quelques années,ceux qui en auront les moyens utiliseront les progrès pour s’améliorer, s’augmenter et deviendront des cyborgs. Les autres mourront sans autre forme de procès. Ensuite ce qui pourrait survenir, c’est loin, très loin. Avant, il y d’autres menaces : la bêtise humaine infinie notamment et les conséquences de la dégradation de notre environnement.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité