Quand on voit les récents progrès en la matière, j'avoue qu'on est en droit de se poser la question. Encore une fois on déblaie ici quelques pistes, car comme on a coutume de le dire, l'avenir est ce que l'on en fait...
Update 19.11.2015 : Doc. Le soldat du futur (Science & Vie)
Les robots ont été dans les pensées de la science-fiction pendant des décennies maintenant, ils jouent souvent le rôle des vilains. Car les histoires nous indiquent, qu’il n'y a pas grand-chose à faire quand une armée imparable de machines autonomes tueuses mortelles décide de faire la guerre à l'humanité. Maintenant, un nouveau rapport de Human Rights Watch et de l'Université de Harvard suggère que ce pourrait être une bonne idée d'examiner le problème avant que l'imagination devienne réalité en interdisant la création de drones opérationnels visant à mener une guerre semi-autonome, qui pourraient gagner un jour l'intelligence de devenir des robots tueurs entièrement autonomes.
L'idée que nous devrions interdire les robots meurtriers et l'intelligence artificielle n'est pas nouvelle. En fait, l'idée a été mise en avant il y a des décennies par le poids lourd de la science fiction Isaac Asimov avec ses trois lois de la robotique. La première loi est la plus appropriée ici et elle dit : « Un robot ne peut blesser un être humain ou, par l'inaction, permettre à un être humain d’en venir à nuire. » Alors que nous marchons vers un avenir avec des machines plus intelligentes, cette création fictive pourrait devoir devenir une réalité.
L'humanité a fait sa partie équitable du massacre, mais le souci est que les robots sont déjà bien plus efficaces pour cela que nous. Les drones télépilotés peuvent heurter une voiture mobile avec la mise à feu d’un missile hellfire à plusieurs kilomètres de distance. Selon le rapport, une machine qui pourrait indépendamment choisir ses cibles avec ce type de puissance serait un cauchemar pour l'humanité, particulièrement si elle ne se comporte pas de la manière dont ses programmeurs l’ont prévu.
Des soldats vivants peuvent être dirigés à faire des choses terribles, mais ils ont des consciences. Aucun despote sur terre ne peut être assuré à 100 % de la conformité de ses forces de combat. Si les armes autonomes prennent simplement n'importe quel ordre et l’effectue avec une efficacité froide, les conflits autour du monde pourraient devenir beaucoup plus ensanglantés. Des vies civiles pourraient être perdues en plus grand nombre, car les machines ne ressentent aucun remords ou compassion.
La responsabilité des missiles des drones est peut-être le problème le plus grave avec une machine qui peut décider de sa cible. Si les humains appuient sur la gâchette, il y a des conséquences. Une arme robotique ne peut pas vraiment être jugée responsable de commettre une atrocité. Essayer de juger le programmeur ou le commandant responsable des actions d'un robot présente des problèmes moraux et juridiques. Tout ceci indique que nous pourrions perdre la capacité de prévenir la commission des crimes de guerre.
Le rapport réclame un traité international qui interdirait le développement des armes entièrement autonomes. Il pourrait tenter de considérer cela inutile - un problème à l'avenir lointain. Cependant, les armes de guerre deviennent déjà plus automatisées et indépendantes.
Quelques chercheurs du secteur de l'intelligence artificielle croient que les drones pourront acquérir et détruire des cibles sans intervention humaine dans un délai de 20 ans. La décision pour prendre une vie a toujours dépendu d'un humain, et le rapport indique que ce changement dans l'équation fait de l'avenir une chose beaucoup trop dangereuse.
Dans les histoires d'Asimov les robots ont été implantés avec les trois lois pendant le processus de fabrication. Le cerveau positronic du robot ne pouvait simplement pas penser à blesser un être humain, même si on lui en donnait l’ordre. Nous ne sommes pas tout à fait à ce niveau de technologie encore, mais nous pouvons employer notre meilleur jugement en tant qu’espèces pour instituer la première loi en ne construisant même pas des armes entièrement autonomes en premier lieu.
Lire maintenant : Les humains rêvent-ils de prostituées androïdes ?
Source : Extremetech.com
Traduction Folamour, Reproduction libre à condition de citer la source ainsi que celle de la traduction.
Informations complémentaires :
