Le logiciel de prévision des crimes existe et ça craint !

Il n’y a pas de pre-cogs dans des jacuzzis lumineux pour l’instant, mais le Florida State Department of Juvenile Justice va utiliser un logiciel d’analyse pour prévoir les crimes des jeunes délinquants et en plaçant ces récidivistes potentiels dans des programmes d’éducation et de prévention spécifique. Dites adieu aux droits de l’homme !

Ils vont se servir de ce logiciel sur les délinquants juvéniles, en utilisant une série de variables pour déterminer le potentiel de récidive. Selon cette probabilité, ils placeront l’enfant dans un programme de ré-éducation spécifique. Deepak Advani, le vice-président d’analyse prévisionnelle d’IBM, affirme que le système donne « une projection fiable » et ainsi les gouvernements peuvent « agir en temps réel » pour « éviter les activités criminelles ».

Vraiment ? « une projection fiable » ? « agir en temps réel » ? « éviter les activités criminelles » ? IBM, j’ignore si ton (je te tutoie maintenant) système est fiable, mais tu devrais relire l’article 11 de la Déclaration universelle des Droits de l’homme. Tu as au moins vu le film Minority Report ? Oui, celui avec le scientologue.

Certains vont affirmer que ça ne fait de mal à personne, qu’il faut éduquer, que ces jeunes ont déjà commis un crime, qu’on sera plus en sécurité. Ah bon ? Quelle est la garantie ? Quel gouvernement peut décider de placer ou non un jeune dans un programme spécifique de prévention en se référant seulement à un ordinateur ? Même si le logiciel est fiable à 99,99%, il y aura toujours un innocent qui se fera avoir. C’est pour cette raison qu’il y a des juges, des tribunaux et surtout une présomption d’innocence. Et c’est aussi pour cette raison qu’un article spécifique a été écris dans la déclaration universelle des droits de l’homme.

Vous vous dites que c’est US-Only ? Aucune chance que ça arrive en France, en Belgique, ou au Canada ? Faux. Selon IBM, le ministère de la justice du Royaume-Uni utilise déjà ce système pour prévenir les activités criminelles. Et n’oubliez pas qu’il y a aussi un logiciel américain pour blacklister les terroristes potentiels, qui n’est probablement pas aussi sophistiqué que celui dont vient de parler.

Résumons notre futur prévisionnel : tout d’abord, il y a le criminel-potentiellement-récidiviste. Puis, il y a le terroriste potentiel. Et finalement, il y aura nous autres, dans une grosse base de données, surveillé et étiqueté à cause d’une combinaison de facteurs (déplacements, activité de votre carte de crédit, relations, messages, activité sociale et tout le reste) qui indiquent que vous pourriez bien faire quelque chose d’illégal. Potentiellement, un système de prévention du crime peut éviter les meurtres, les vols ou les actes terroristes.

Une chose est certaine et peu importe la manière dont on peut l’envisager : cataloguer des gens, n’importe quel gens, en se basant sur un logiciel de prévision statistique, pour ensuite prendre des mesures préventives contre eux en fonction des résultats n’est pas un bon moyen d’améliorer notre société. [Yahoo!]

Tags :
Dernières Questions sur UberGizmo Help
  1. Par Benjamin Franklin : « They who can give up essential liberty to obtain a little temporary safety, deserve neither liberty nor safety. »
    ( Ceux qui acceptent de perdre les liberté fondamentales pour obtenir une sécurité temporaire, ne méritent aucun des deux. )

  2. geeks +1
    la question est de savoir qu’est ce qui serait le plus fiable entre les tribunaux et ce logiciel.. parceque le « c’est pour ca qu’il y a des tribunaux bla bla » ouais super le nombre de personnes ayant passé des années en détention pour rien, c’est pas a cause d’un logiciel..
    Personnellement je suis pour, surtout dans la mesure ou il ne semblerait s’appliquait qu’a ceux ayant déja commis un crime…

  3. Il est très bien votre article. Je ne suis pas d’accord avec vous mais je trouve que vous prenez un parti clair et net ; vous argumentez de manière assez classique dans le sens de la liberté que je chéris au moins autant que vous.

    Cependant… Ce qui me fait souci c’est que ces évolutions sont inéluctables ; les entreprises privées jouent déjà avec ces outils « prévisionnels ». Alors s’il faut s’opposer démocratiquement à ce que les états s’en équipent pour qu’au bout du compte ça soit les entreprises privées qui en maîtrisent l’utilisation, c’est aller de Charyble en Scylla. Il faut essayer de renforcer les droits de la défense et la qualité de nos prisons, tourner le dos aux cachots humides et aller vers un lieu de changement et de réapprentissage de la liberté. Que les taulards sortent de prison sans aucune chance d’insertion honnête dans un monde où le taux de chômage est délirant me déplaît profondément et aucun logiciel ne peut nous protéger des émeutes spontanées. Je ne suis pas pour récompenser les conneries mais il faut que tout le monde ait sa chance.

    Je crois qu’il faut orienter la lutte contre les débordements liberticides du flicage généralisé différemment, de manière la plus intelligente possible. Le danger terroriste existe toujours et ne sera pas vaincu définitivement sans que l’intelligence prenne le pas sur la force brute, en dénonçant sans fard les aspects violents de nos cultures anciennes des deux côtés de la Méditerranée, mythes et religions comprises entre autres. Pour le reste, la criminalité doit pouvoir être réduite, c’est un problème de culture, d’éducation à changer.

    Si on peut se rendre compte qu’un jeune a besoin d’un soutien personnalisé avant qu’il commette l’irréparable, je suis d’accord, si le soutien en question ne consiste pas en une « maison de redressement » ou une prison.

    Les outils sont une chose, l’utilisation qu’on en fait, une autre.

  4. Mieux vaut avoir des juges et des tribunaux imparfaits qu’un systeme où la présomption d’innocence n’existe plus. Entériner ce genre de système c’est la fin de tout système républicain/démocrate.
    Le système repose sur équilibre entre pouvoirs. Si le système exécutif (au travers d’agences qques et de lois liberticides telles cells-ci) peut outrepasser le pouvoir judiciaire, rien ne va plus.
    et peut importe que cela ne s’applique que à des personnes déjà criminelles. une fois un petit pas de fait, vous goberez aussi facilement l’idée de surveiller tout le monde, vu que nous sommes tous de potentiels malfaisants. Rien n’empeche l’exécutif de dicter la société si le judiciaire est outrepassé.

  5. D’accord Matt mais il s’agit de logiciels et de bases de données qui existent déjà. Alors tu te révoltes mais rien ne pourra les arrêter. La seule question qui reste, c’est entre quelles mains ça va être, quel contrôle la société peut avoir sur ça : pour l’instant on n’a pas de contrôle et on ne sait pas ce qui en sera vraiment fait. Il va falloir composer avec. Il faut que les citoyens obtiennent un droit de regard dessus. Et pour l’instant rien ne permet d’affirmer que ça se substitue aux juges, ça s’y ajoute et ça prétend prévenir en amont les crimes par des actions « adaptées ».
    Que proposes-tu pour les familles entières qui passent le plus clair de leur vie en prison ? Ce n’est pas prévisible ? On ne peux vraiment rien y faire ? Tout le monde à l’école publique et tant pis pour les ratés ? Logiciel ou pas, ne peut on pas agir à un stade ou à un autre ?

  6. LE FAKE Du grand n’importe quoi !

    Mais je peux me contenir des années durant en honnête citoyen et tout a coup pété un câble la je pense pas qui peuvent faire quelque chose, et mêmes un criminel bien organisé qui cache sont jeux ne peut ce faire prendre !

    Par contre les données facebook alcool, drogue etc… il va en avoir.. ouf j’utilise pas facebook

  7. MOuais ouais.

    1) Pour les droits de l’Homme on repassera : ça n’a jamais marché et même le pays qui l’a écrit échoue à l’appliquer…

    2) De toute façon ça ne sera pas la première fois ni la dernière dans l’histoire humaine où on sera brimés ( http://www.dailymotion.com/video/x3551x_la-fin-de-leurs-monde-non-censure_news )

    3) Ça ne serais pas mieux eu fin de compte d’avoir une société humaine comme celle des fourmis, termites, rats ou robots dans la sf où seul compte l’intérêt commun et non l’intérêt individuel?

  8. @Z : non. Nous ne sommes pas des termites. On a la « chance » d’avoir un libre arbitre très poussé, et donc on aspire à la liberté.
    Je précise que le jour ou un truc dans le genre se produira et fonctionnera, alors il sera de notre devoir de nous battre pour l’abolir.

  9. L’horrible machinerie !!!

    « …contre eux en fonction des résultats n’est pas un bon moyen d’améliorer notre société… »

    « Notre » société a été construite par les scélérats du New World Order. Il ne faut pas s’étonner que de telles trouvailles voient le jour.

    Ce n’est pas l’argument menteur de « prévision des crimes » (ça c’est pour faire passer la pillule!), mais l’utilisation de futurs procédés de fabrications de zombis pour faire aboutir leur plan fasciste de domination mondiale.
    Attention, DANGER !

  10. là qu’a pas être criminel, ah!

    se rebeller pour des conneries, descendre ses collègues et sucer son patron, c’est ça la france

  11. Il n’est pas question de fiabilité, ou de marge d’erreur ou de pourcentage de réussite. Tout peut être à l’origine de déviances dictatoriales, ce tout n’est qu’un prétexte. Ce qui me glace le plus c’est le recours à la machine pour déterminer de la détention d’un homme. Ce logiciel est plus qu’un outil : il permet de juger sur des bases mathématiques. Un peu comme si le distributeur de billet estimait votre retrait par rapport à ce qu’il y a sur votre compte et qu’il vous l’autorisait ou pas. Imaginez maintenant la même machine (aussi sophistiquée soit-elle) jugeant de votre liberté ou de vos possibilités de récidives. En substituant le juge, l’avocat, le médecin ou le psychologue pour juger l’homme, on économise un vrai procès. Si la machine est plus juste que l’homme pour juger l’homme alors… alors quoi ? Devinez !

  12. Dans quel monde vivez-vous ? N’avez pas déjà remarqué que les décisions sont déjà prises « par les ordinateurs » ? Moi, il m’est déjà arrivé qu’on me refuse des crédits sans raison rationnelle (pas endetté, tous les deux au boulot, diplômés, jeunes et tout) comme par hasard juste avant une crise économique : on ne sait pas, l’ordinateur… Tu parles, ils savaient déjà dans les banques qui m’avaient rejeté que ça allait mal tourner… J’ai fini par trouver une banque quand même mais je n’ai compris le pourquoi des refus que lorsque la crise est arrivée.

    Les distributeurs de billets : pareils, déjà beaucoup de gens sont limités en fonction de leur solde sur le compte et ça ce n’est pas totalement anormal, retirer plus que ce qu’on a vraiment, c’est obtenir un crédit dans les pires conditions, genre 18% par mois ! (Vous avez lu les contrats que vous avez signés à la banque à l’ouverture du compte ?)

    Là ils nous parlent de décisions de prévention, genre ce que font déjà les éducateurs dans les centres spécialisés pour jeunes « en difficulté ». Peut-être que les gens vont s’abriter derrière l’ordinateur pour « justifier » des décisions pénibles, peut-être que des meilleures décisions seront prises, je ne sais pas, ça dépend des humains qui utiliseront cet outil, et pas tant de l’outil lui-même. Si vous considérez que les éducateurs seraient tous des salauds, vous vous attendrez au pire…

    Il ne faut pas confondre décisions de justice, application des décisions et prévention, comme il ne faut pas confondre aval et amont, stalagmites et stalactites, causes et conséquences… Plus vous raisonnez flou, plus vous êtes manipulables à merci.

  13. Je relis encore l’article et les commentaires… Et après discussion IRL avec un spécialiste de l’éducation, il ressort que si dans certains états des Etats Unis le fait de voler deux fois de suite une pizza est être un récidiviste, et si les gens là-bas sont aussi irresponsables dans leurs décisions qu’en France (« ce n’est pas moi c’est l’ordinateur ou c’est un chef anonyme et inaccessible qui a dit »), appliquer des statistiques pour décider de l’avenir d’un enfant, c’est faire comme Sarkozy qui voulait détecter les criminels à la maternelle : beaucoup trop de risques de dérives et de bavures.
    Il devrait toujours y avoir un humain responsable et identifié dans la boucle de décision, que ce soit dans le pilotage d’un avion rempli de passagers ou pour une opération chirurgicale. Selon moi pour aider à l’orientation d’un jeune, le logiciel devrait être capable de justifier ces propositions, et la décision devrait appartenir au final à un éducateur qualifié et contrôlé. J’ai lu l’article de Yahoo! proposé en source : le logiciel ne semble pas justifier de ses choix basés sur des statistiques et les humains ne semblent pas avoir le dernier mot. Avant ils faisaient ça avec Excel ! Et ils appliquent ça aussi à des prisonniers dans les prisons. Férocement implacable leur truc.
    On ne pourra jamais abolir totalement le crime. Si les concepteurs de ce truc visent un monde parfait, si ça mène à punir avant même d’avoir récidivé, ils vont nous créer un enfer.

    Le seul cas qui me vienne à l’esprit où l’humain ne peut pas être dans la boucle est celui des opérations en « temps réel », par exemple pour les missiles anti-missiles en situation de guerre, le temps de réaction demandé est trop court pour laisser un humain réfléchir à la situation ; ça risque un jour ou l’autre de faire descendre un avion plein de passagers innocents suite à une erreur informatique.

  14. Next time I read through a blog, I hope that it doesnt disappoint me as much as this one. I mean, I’m sure it was eventually my choice to read, however I essentially assumed you’ll have some thing great to share. Many I see is mostly a couple of whining about something which you might resolve if you werent too busy looking for awareness.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité