Industrie

Un robot qui choisit d'infliger de la douleur suscite un débat sur les systèmes d'IA

Un robot qui choisit d'infliger de la douleur suscite un débat sur les systèmes d'IA

Un robot construit par le robotique Alexander Reben de l'Université de Berkeley, en Californie, a la capacité de décider en utilisant l'IA d'infliger ou non de la douleur.

Le robot vise à déclencher un débat sur la question de savoir si un système d'IA peut devenir incontrôlable, ce qui rappelle le terminateur. La conception du robot est incroyablement simple, conçue pour ne servir qu'un seul but; pour décider d'infliger ou non de la douleur. Le robot a été conçu par Alexander Reben de l'Université de Berkeley et a été publié dans une revue scientifique visant à déclencher un débat sur la question de savoir si les robots intelligents artificiels peuvent ou non devenir incontrôlables s'ils en ont l'occasion.

"La vraie préoccupation concernant l'IA est qu'elle devient incontrôlable",

il a dit.

«[Les géants de la technologie] disent que c'est loin, mais réfléchissons-y maintenant avant qu'il ne soit trop tard. Je prouve que [les robots nuisibles] peuvent exister maintenant. Nous devons absolument y faire face.»

Reben explore la possibilité très réelle qu'un robot programmé avec un algorithme qui apprend de l'expérience et de l'interaction humaine puisse capter les traits négatifs imposés par certains humains, présentant une chute potentielle des systèmes d'IA qui pourraient devenir dangereux.

Dans la pratique, lorsqu'un doigt est placé près du robot, il a le potentiel de le piquer, ce qui fait couler du sang. Reben explique qu'il n'a vraiment aucune idée du moment où le robot va frapper.

"Le robot prend une décision que je ne peux pas prédire en tant que créateur",

il a dit,

"Je ne sais pas à qui cela fera ou ne fera pas mal. C'est intrigant, cela cause de la douleur qui n'est pas dans un but utile - nous entrons dans une question d'éthique, des robots spécialement conçus pour faire des choses qui sont éthiquement douteuses."

La machine coûte environ 200 USD et ne sera pas disponible pour la vente au détail. Son objectif principal est d'explorer la philosophie de trois lois robotiques proposées par Isaac Asimov en 1942 - la première étant un robot ne peut pas blesser un humain. Suite aux recherches de Reben, il a conclu qu'un "kill switch" d'IA similaire à celui actuellement développé par les ingénieurs de la division d'intelligence artificielle de Google, DeepMind, et l'Université d'Oxford, pourrait devenir extrêmement important dans un proche avenir.

Le robot de Reben se pique un doigt[Source de l'image: Alexander Reben]

La principale préoccupation est de s'assurer que l'algorithme d'un robot est conçu de telle manière qu'il ne peut pas passer outre le coupe-circuit pour l'empêcher de s'éteindre - un scénario incroyablement dangereux. Bien que les robots actuels soient conçus dans un but pratique, car ils acquièrent plus d'intelligence et des algorithmes d'apprentissage plus humains, il deviendra impératif de s'assurer que des mesures de sécurité importantes sont en place pour empêcher un robot de se transformer en terminateur, de se piquer le doigt, ou pire encore.

VOIR AUSSI: L'intelligence artificielle doit être protégée par les droits de l'homme

Écrit par Maverick Baker


Voir la vidéo: Lintelligence artificielle - Débat sur LCI (Décembre 2021).