"Les trois lois d'Isaac Asimov évoquant les robots:
1. Le robot ne peut nuire à l’humain, même par omission.
2. Le robot doit obéir à l’humain, sauf si cela nuit à ce dernier
3. Le robot a le droit de se préserver, sans jamais sacrifier les deux premières règles."
Ces lois imaginaires écrites en 1942 ont étonnamment bien vieilli. Elles posaient déjà la question centrale de l’IA : qui protège qui, et qui reste responsable ? Le danger n’est peut-être pas seulement qu’une IA désobéisse à l’homme, mais que l’homme finisse par lui obéir sans suffisamment la questionner. Le rapprochement avec les débats actuels sur une réglementation de l'IA fonctionne particulièrement bien : Asimov ne cherchait pas seulement à empêcher le robot de « devenir méchant », un robot ne connaît pas la morale, mais imaginait des règles hiérarchisées pour en fixer les limites. Petite curiosité : Asimov ajoutera beaucoup plus tard une « Loi Zéro »: protéger l’humanité dans son ensemble, explicitement formulée dans Robots and Empire en 1985.
Lu dans:
Isaac Asimov (1920-1992). Runaround. 1942, nouvelle reprise dans Les Robots, 1950. Les Trois Lois de la robotique y sont formulées explicitement pour la première fois. De son vivant, Asimov était considéré comme l'un des trois grands auteurs de science-fiction. Il a écrit ou édité plus de 500 livres et environ 90 000 lettres et cartes postales de science-fiction réaliste , romans policiers et ouvrages de vulgarisation scientifique.
Aucun commentaire:
Enregistrer un commentaire