« Que voulons-nous faire demain avec les machines « artificiellement » intelligentes et capables d’apprendre ? » La question est au cœur d’une vaste réflexion internationale. Elle ne manquera pas d’être abordée dans le cadre l’univers IA & Robotique de cette toute première édition du Digital Festival Tahiti.
Laurence DEVILLERS, Professeure en Informatique à Paris-Sorbonne expliquait dans un article du magazine Sciences et Avenir que les robots devront être soumis à de nouvelles règles, « des règles morales » qu’il faudra leur implanter. « Oui mais lesquelles ? Et comment ? » Les réponses dépassent amplement le cadre des lois d’Asimov.
Une « charte de bonne conduite pour les robots »
Ils sont nombreux aujourd’hui à travailler sur cette question éthique. La société savante mondiale IEEE, « The Global Initiative for Ethical Considerations in the Design of Autonomous Systems » compte plus de 420 000 membres répartis dans 160 pays.
Elle a lancé l’initiative d’une « charte éthique sur les machines autonomes intelligentes, telles que les robots, et travaille sur les normes et standards ».
Au cœur de leur sujet : les valeurs morales et les relations affectives entretenues avec les machines. Leur objectif : la rédaction de cette charte de « bonne conduite ».
Les 5 commandements du robot assistant de vie
Laurence DEVILLERS imagine de prescrire pour les robots « 5 commandements », qui vont au-delà des lois classiques d’Asimov :
- 1er commandement : tu ne divulgueras pas mes données à n’importe qui.
- 2e commandement : tu pourras oublier [quelque chose] si je te le demande.
- 3e commandement : tu apprendras et suivras les règles de la société.
- 4e commandement : tu seras loyal et capable d’expliquer tes décisions.
- 5e commandement : tu seras bienveillant et utile. Et pourquoi pas, doué d’un peu d’humour !
Laurence DEVILLERS espère une prise de conscience concrète de notre rapport aux robots.
Il se peut que l’on devienne « addict » à nos machines, que « nous nous mettions à les aimer », surtout si nous nous retrouvons isolés, dépendants, seuls. Où s’arrêtera notre vie privée en leur compagnie, et comment réguler notre interaction avec elles ?
Un vrai programme du XXIe siècle, affirme l’article de Sciences et Avenir.
LES LOIS D’ASIMOV
Les trois lois de la robotique formulées par le célèbre écrivain de science-fiction Isaac Asimov donnent les premiers éléments éthiques devant régir le comportement d’un robot.
- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger,
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi,
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
French
English