Des contes pour apprendre aux robots à ne pas tuer

Robot

Avant que nous ne puissions envisager de cohabiter avec des robots dotés d'intelligence artificielle, il convient de leur inculquer quelques règles élémentaires, dont les trois lois de la robotique d'Asimov. De celles-ci nous pourrions dire qu'un robot ne doit pas tuer. Et pour leur apprendre cela, des chercheurs envisagent de leur raconter des histoires.

Les contes servent à bien des choses chez les jeunes enfants : ils stimulent l’imagination, apprennent à résoudre des problèmes et offrent aussi leur lot de morale. C’est ce troisième point dont veulent se servir des chercheurs du Georgia Institute of Technology pour apprendre aux robots que tuer, c’est mal – et ce ne serait pas plus mal tant les craintes sont nombreuses chez les plus grands experts -.

« Les histoires collectées de différentes cultures apprennent aux enfants à se comporter correctement en société, les exemples sont nombreux dans les fables, romans et toute autre littérature« , explique Mark Riedl, l’un des membres de l’équipe. « Nous pensons que la compréhension d’une histoire par les robots peut éliminer les comportements ‘psychotiques’ et renforcer leur prise de décision pour ne pas blesser l’humain et atteindre pour autant son objectif.« 

Le système qu’ils ont mis en place s’appelle Quixote, il est basé sur Scheherazade, le projet précédent de Mark Riedl. Scheherazade crée des histoires à partir de petits segments récupérés sur Internet et Quixote utilise ces histoires pour apprendre cette règle au robot. Ceci en convertissant les actions en signaux de récompense, ou de punition, selon l’action. Si le robot choisit une « bonne » action, il est récompensé. S’il emprunte la voix d’un méchant, il est puni.

« Nous pensions que l’intelligence artificielle doit être ancrée dans la culture locale, pour adopter les valeurs d’une certaine société, et en faisant cela, [cette intelligence artificielle] fera tout ce qu’il faut pour éviter tout comportement inacceptable. […] Donner aux robots la capacité de lire et comprendre nos histoires pourrait être le meilleur moyen d’y parvenir, en l’absence d’un manuel clair de l’Humain.« 

Tags :
Dernières Questions sur UberGizmo Help

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité