Lettre aux Nations Unies contre les “robots tueurs”

"Elles peuvent être des armes terrifiantes, des armes que des dictateurs et des terroristes utilisent contre des populations innocentes, et des armes piratées à des fins funestes. Nous n'avons pas beaucoup de temps pour agir. Une fois ouverte cette boîte de Pandore, elle sera difficile à refermer. C'est pourquoi nous vous implorons de trouver le moyen de nous protéger de ces dangers." Signée par 116 spécialistes de l'intelligence artificielle, dont Elon Musk, une lettre ouverte a été adressée aux Nations Unies afin de tirer la sonnette d'alarme au sujet de l'utilisation de "robots tueurs". Sciencesetreligions présente une sélection de liens pour mieux comprendre un sujet qui est en train de faire couler beaucoup d'encre (virtuel...).

Source: http://www.lci.fr/high-tech/faut-il-avoir-peur-des-robots-tueurs-elon-musk-et-une-centaine-de-pdg-tirent-la-sonnette-d-alarme-dans-une-lettre-a-l-onu-2061934.html

La lettre ouverte aux Nations Unies (en anglais) – cliquez ici

Liens

Elon Musk sur les dangers de l’intelligence artificielle (vidéo sous-titrée, durée 1:54)

https://www.lesechos.fr/industrie-services/air-defense/010187967141-les-robots-tueurs-inquietent-plus-que-jamais-elon-musk-2108758.php


Entretien avec Jérôme Monceaux, fondateur de la société Spoon, un des six entrepreneurs français ayant signé la lettre ouverte aux Nations unies.

http://www.leparisien.fr/high-tech/robots-tueurs-la-mort-doit-etre-une-decision-et-une-responsabilite-humaine-22-08-2017-7206534.php

‘Derrière le fantasme du Robocop qui déambulerait dans nos villes et agirait seul, cela devient très concret quand on parle de drones auxquels on donnerait une série d’algorithmes pour déterminer si une personne dans une situation donnée doit être tuée ou pas. Et nous n’en sommes pas loin. Prendre un robot que j’ai créé, lui ajouter un système de tir et lui dire «à chaquefois que tu vois quelqu’un, tu tires», ce n’est pas compliqué. C’est devenu à la portée de tous. L’enjeu n’est donc pas tant technologique, il est éthique. Il y a donc une urgence de législation globale pour éviter une course à unarmement de ce type.”


Entretien avec Anis Sahbani, fondateur d’Enova Robotics et chercheur à l’Université Pierre et Marie Curie – Paris VI.

 

http://lexpansion.lexpress.fr/high-tech/i-a-et-robots-tueurs-aujourd-hui-la-technologie-est-mature_1936589.html

“Ce qui est particulièrement alarmant aujourd’hui, c’est que cette technologie est mature. Pour l’instant, on a encore des drones pilotés par des humains, qui doivent décider de tuer ou pas. Mais le gap […] est minime. Or on sent bien que les demandes des Etats et des armées sont de plus en plus pressantes. Un jour, une entreprise va finir par craquer.”

 

 


 

Article d‘Edouard Pflimlin, chercheur associé à l’Institut de relations internationales et stratégiques : “Laborieux consensus pour l’interdiction des “robots tueurs”: Les Nations unies contre Terminator”, Le Monde Diplomatique, mars 2017, p. 19

http://www.monde-diplomatique.fr/2017/03/PFLIMLIN/57287

 

 


 

Vidéo connexe: “Technologie et guerre: le pouvoir aux robots?” Emission RTS Géopolitis (2015). Durée 15 minutes, niveau grand public.

“Avions ou hélicoptères sans pilotes, robots tueurs ou démineurs, ces engins ont investi les champs de bataille des armées modernes. C’est déjà une réalité. Mais l’évolution rapide des techniques permet de voir encore plus loin. Les robots sont de plus en plus autonomes, ils pourraient le devenir totalement dans un avenir qui ne relève pas nécessairement de la science-fiction. Les spécialistes estiment que d’ici le début de la décennie 2020, la puissance de calcul des ordinateurs pourrait être équivalente à celle du cerveau humain. Une perspective qui soulève de nombreuses questions d’ordre éthique alors que le développement des robots tueurs est en plein essor.

Comment les technologies modernes sont-elles utilisées par les militaires? Faut-il craindre la naissance d’un robot super-intelligent? Geopolitis décrypte ce monde peut-être pas si lointain où l’arme finirait par prendre la place du soldat.”

L’invité: Jean-Marc Rickli, professeur-assistant département d’études dela défense King’s College de Londres.