Google travaille avec OpenAI pour empêcher un soulèvement des robots

intelligence artificielle

Aussi remarquable puisse-t-elle être, l'intelligence artificielle fait peur. Et pour cause, elle pourrait entraîner un soulèvement des robots. Certains experts du domaine commencent déjà à y réfléchir. Google s'est ainsi associé à OpenAI pour tenter d'empêcher une telle situation.

Google DeepMind et OpenAI ont récemment publié un article dans lequel ils dévoilent une nouvelle méthode de machine learning. Dans celle-ci, la machine apprend de l’homme, et non d’elle-même, ce qui mène parfois à des conséquences non désirées.

L’article souligne l’un des problèmes principaux avec l’intelligence artificielle. Lorsque celle-ci apprend que tricher est parfois le meilleur moyen d’obtenir la meilleure récompense, celle-ci intègre cette méthode comme tout à fait normale.

En utilisant un système de récompenses contrôlé par l’homme, et non un système de récompenses automatisé, les futures intelligences artificielles pourraient donc apprendre à se comporter comme l’homme, satisfaisant nos préférences. L’inconvénient de cette méthode reste qu’il faut une énorme implication humaine, ce qui est loin d’être idéal.

Tags :Via :Ubergizmo
Dernières Questions sur UberGizmo Help

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Publicité