Un code de bonne conduite pour les robots

[Thirga.ounevdhou]

Les robots exécutent des tâches de plus en plus diversifiées dans nos sociétés. Certains sont autonomes et même capables de prendre des décisions sans l’intervention des humains.

Des robots exécutent le ménage dans certains grands hôtels et se déplacent de chambre en chambre une fois leur travail terminé. D’autres sont utilisés à des tâches beaucoup plus délicates. Quelques-uns sont responsables d’assurer la sécurité à la frontière entre la Corée du Nord et la Corée du Sud. Ils sont équipés de deux caméras et d’une mitraillette.

«Si le robot autonome tue quelqu’un d’innocent, à qui revient la faute?», s’interroge le professeur Alan Winfield de l’Université de West England. Sans craindre une mutinerie, les experts en robotique croient qu’un débat sur le rôle des robots dans nos sociétés serait approprié.

À l’heure actuelle, des robots sont utilisés, au Japon, pour prendre la pression et mesurer le rythme cardiaque des patients âgés hospitalisés. Désire-t-on, pour économiser des sous, placer les personnes âgées dans un grand hôpital où les soins sont prodigués par des machines? «Il est urgent de discuter de la place que nous voulons accorder aux robots et de leur définir un code de bonne conduite», déclare Noel Sharkey, professeur de robotique à l’Université de Sheffield, en Angleterre.

- AFP

[reeeeeverblu]

Questions d’ethiques : Les lois d’Isaac Asimov

Bonjour,

Les hommes ont une peur instinctive des créatures mécaniques ou robotiques. Le mythe fondateur de Frankenstein (marie shelley)et les figures modernes de HAL (l’ordinateur de 2001, l’Odyssée de l’espace) ou du Terminator illustrent l’angoisse de voir des artefacts se retourner contre leur créateur.

La science-fiction a abondamment exploité cette culture phobique. Le terme "robot", lui-même, se veut péjoratif à l’origine. Il apparaît en 1920, dans une pièce de l’écrivain tchèque Karel Capek. Robota, en tchèque, signifie "travail forcé" et la pièce, intitulée Les robots universels de Rossum mettait en scène une usine de robots, qui finissent – vous l’aviez deviné – par se révolter.

Isaac Asimov inventa dans les années cinquante les Lois de la robotique, ouvrant la voie à un nouveau courant de littérature SF, où les robots sont invariablement les amis et les serviteurs de l’homme. Pour mettre au point ses lois, Asimov imagina les garanties dont l’humanité devrait s’entourer lorsqu’elle développera massivement la science robotique :

1) Un robot ne doit pas causer de tort à un humain ou, restant
passif, laisser un humain subir un dommage.

2) Un robot doit obéir aux ordres d’un humain, sauf si l’ordre donné
peut conduire à enfreindre la première loi.

3) Un robot doit protéger sa propre existence aussi longtemps qu'une
telle protection n'est pas en contradiction avec la première et/ou la
deuxième loi.



Dans ses romans et nouvelles, Asimov s’amusera à mettre en pratiques ces règles, imaginant toutes sortes d’aventures où les robots mis en scène sont soumis à des paradoxes ou des situations incongrues.

Plus tard, Asimov ajoutera une loi supplémentaire, prépondérante par rapport aux trois lois initiales et étendant la portée de la première : un robot ne doit pas causer de tort à l’Humanité ou, restant passif, laisser l’humanité subir un dommage. En effet, dans certaines circonstances, aucun homme n’est directement mis en danger à court terme alors qu’un phénomène mortel pour la communauté humaine peut avoir été mis en branle (exemple de la pollution …). On retrouve dans cette démarche l’optimisme technique hérité des mathématiciens et cybernéticiens qui inventèrent l’informatique. Asimov était d’ailleurs proche de Von Neumann et Norbert Wiener, les inventeurs de l’ordinateur, et il éprouvait le désir de proposer aux ingénieurs des outils conceptuels concrets pour les aider dans leurs recherches. En cela, les Trois Lois de la Robotique constituent une sorte de Code de déontologie pour les inventeurs de machines intelligentes.