Vous êtes ici

L'intelligence artificielle pose cinq problèmes de sécurité selon Google

Futura-sciences.com - Tue 28 June 2016

https://watch.gdfsuez.net/mod.php?pid=6599881

Google a publié un article scientifique listant, d’après ses conclusions, les cinq principaux problèmes de sécurité que pose l’intelligence artificielle. Dans cet article intitulé « Concrete Problems in AI Safety », l’équipe détaille les problèmes pratiques liés aux risques d’accident qu’une IA basée sur l’apprentissage automatique (machine learning) pourrait provoquer si sa conception n’est pas correctement pensée pour le monde réel.

Les deux premiers risques identifiés par les chercheurs de Google et leurs acolytes sont liés à l’attribution d’une mauvaise fonction de l'objectif. Il y a d’abord ce qu’ils nomment avoiding negative side effects ou « éviter des effets secondaires négatifs ».

Deuxième risque : avoiding reward hacking que l’on pourrait traduire de façon imagée par « éviter que la fin ne justifie tous les moyens ».

Le troisième risque est nommé scalable oversight que l’on pourrait traduire par « surveillance évolutive ». Plus le but est complexe, plus l’IA va devoir valider sa progression auprès de son référent humain.

Avant-dernier problème identifié : safe exploration ou exploration en sûreté. Quel degré d’autonomie peut-on accorder à une IA ?

Cinquième et dernier problème : robustness to distributional shift ou comment s’adapter au changement. « Comment s’assure-t-on qu’une IA reconnaisse et se comporte de façon adéquate lorsqu’elle se trouve dans un environnement très différent de celui dans lequel elle a été entraînée ? », demandent les chercheurs.