L'éthique des robots

L'éthique des robots , parfois appelée « roboéthique », concerne les problèmes éthiques qui se posent avec les robots, comme la question de savoir si les robots représentent une menace pour les humains à long ou à court terme, si certaines utilisations des robots sont problématiques (comme dans les soins de santé ou comme « robots tueurs » en temps de guerre), et comment les robots doivent être conçus de manière à ce qu'ils agissent « de manière éthique » (cette dernière préoccupation est également appelée éthique des machines ). Alternativement, la roboéthique fait spécifiquement référence à l'éthique du comportement humain envers les robots, à mesure que les robots deviennent de plus en plus avancés. L'éthique des robots est un sous-domaine de l'éthique de la technologie, en particulier des technologies de l'information, et elle est étroitement liée aux préoccupations juridiques et socio-économiques. Les chercheurs de divers domaines commencent à s'attaquer aux questions éthiques concernant la création de technologies robotiques et leur mise en œuvre dans les sociétés, d'une manière qui garantira toujours la sécurité de la race humaine.

Bien que les problèmes soient aussi anciens que le mot robot , des discussions académiques sérieuses ont commencé vers l'an 2000. L'éthique des robots nécessite l'engagement combiné d'experts de plusieurs disciplines, qui doivent adapter les lois et les réglementations aux problèmes résultant des avancées scientifiques et technologiques en robotique et en IA. Les principaux domaines concernés par l'éthique des robots sont : la robotique , l'informatique , l'intelligence artificielle , la philosophie , l'éthique , la théologie , la biologie , la physiologie , les sciences cognitives , les neurosciences , le droit , la sociologie , la psychologie et le design industriel .

Une partie du débat éthique est centrée sur le traitement des choses non humaines ou non biologiques et leur « spiritualité » potentielle. Un autre sujet central est celui du développement des machines et, plus tard, des robots. Cette philosophie a également été appliquée à la robotique. L'une des premières publications abordant directement et établissant les bases de l'éthique des robots est Runaround (story) , une nouvelle de science-fiction écrite par Isaac Asimov en 1942 qui mettait en avant ses célèbres Trois lois de la robotique . Ces trois lois ont été continuellement modifiées par Asimov, et une quatrième, ou loi zéro, a finalement été ajoutée pour précéder les trois premières, dans le contexte de ses œuvres de science-fiction . Le terme abrégé « roboéthique » a très probablement été inventé par Gianmarco Veruggio.

FrançaisUn événement important qui a propulsé la préoccupation de la roboéthique a été le premier Symposium international sur la roboéthique en 2004, fruit d'un effort collaboratif de la Scuola di Robotica, du Arts Lab de la Scuola Superiore Sant'Anna de Pise et de l'Institut théologique de la Pontificia Accademia della Santa Croce de Rome. En raison des activités de l'école de robotique, qui est une organisation à but non lucratif et qui vise à promouvoir la connaissance de la science de la robotique parmi les étudiants et le grand public, ce Symposium sur la roboéthique a été organisé. Lors de discussions avec des étudiants et des non-spécialistes, Gianmarco Veruggio et Fiorella Operto ont pensé qu'il était nécessaire de diffuser des conceptions correctes parmi le grand public sur les dangers présumés de la robotique. Ils ont pensé qu'un débat productif basé sur des idées précises et des connaissances réelles pourrait pousser les gens à prendre une part active à l'éducation de l'opinion publique, leur faire comprendre les utilisations positives de la nouvelle technologie et empêcher son abus. Après deux jours de débats intenses, l'anthropologue Daniela Cerqui a identifié trois principales positions éthiques qui ressortent de ces deux jours de débats intenses :

1. Ceux qui ne s'intéressent pas à l'éthique. Ils considèrent que leurs actions sont strictement techniques et ne pensent pas avoir une responsabilité sociale ou morale dans leur travail.
2. Ceux qui s’intéressent aux questions éthiques à court terme. Selon ce profil, les questions sont exprimées en termes de « bien » ou de « mal » et font référence à certaines valeurs culturelles. Par exemple, ils estiment que les robots doivent adhérer aux conventions sociales. Cela comprendra le « respect » et l’aide aux humains dans divers domaines tels que l’application des lois ou l’aide aux personnes âgées. (Ces considérations sont importantes, mais il faut se rappeler que les valeurs utilisées pour définir le « bien » et le « mal » sont relatives. Ce sont les valeurs contemporaines des pays industrialisés).
3. Ceux qui réfléchissent en termes de questions éthiques à long terme, sur par exemple la « fracture numérique » entre le Sud et le Nord, ou les jeunes et les personnes âgées. Ils sont conscients du fossé entre les pays industrialisés et les pays pauvres, et se demandent si les premiers ne devraient pas changer leur façon de développer la robotique pour être plus utile au Sud. Ils ne formulent pas explicitement la question du pourquoi, mais on peut considérer qu’elle est implicite ».

Voici quelques événements et projets importants dans le domaine de l'éthique des robots. D'autres événements dans ce domaine sont annoncés par le groupe thématique euRobotics ELS et par RoboHub :

• 1942 : La nouvelle d' Asimov « Runaround » énonce explicitement ses trois lois pour la première fois. Ces « lois » seront réutilisées dans les œuvres ultérieures de science-fiction d'Asimov liées aux robots.
• 2004 : Premier Symposium international sur la Roboéthique, organisé par l'École de Robotique, où le mot Roboéthique est officiellement utilisé pour la première fois (30-31 janvier 2004, Villa Nobel, Sanremo , Italie ).
• 2004 : IEEE-RAS établit un comité technique sur la roboéthique Archivé le 02/09/2006 sur la Wayback Machine .
• 2004 : Déclaration mondiale de Fukuoka sur les robots (25 février 2004, Fukuoka , Japon ).
• 2005 : Le IEEE RAS TC sur la roboéthique organise l'ICRA05 (International Conference on Robotics and Automation), un atelier sur la roboéthique (18 avril 2005, Barcelone , Espagne ).
• 2005–2006 : Atelier Euron Roboethics de l'EC. Le projet Euron, coordonné par l'École de robotique, a impliqué un grand nombre de roboticiens et de chercheurs en sciences humaines qui ont produit la première feuille de route pour une roboéthique (février/mars 2006, Gênes , Italie )
• 2006 : BioRob2006, première conférence internationale IEEE/RAS-EMBS sur la robotique biomédicale et la biomécatronique ; Mini symposium sur la roboéthique (20 février 2006, Pise , Italie ).
• 2006 : Atelier international « Éthique de l'interaction humaine avec les systèmes robotiques, bioniques et d'IA : concepts et politiques » ; soutenu par le projet européen ETHICBOTS (17-18 octobre 2006, Naples , Italie ).
• 2007 : Le IEEE RAS TC sur la roboéthique organise un autre atelier sur la roboéthique, ICRA07 (Conférence internationale sur la robotique et l'automatisation), (14 avril 2007, Rome , Italie ).
• 2007 : ICAIL'07 Archivé le 03/06/2008 sur la Wayback Machine , Conférence internationale sur l'intelligence artificielle et le droit, (4-8 juin 2007, Université de Stanford , Palo Alto , Californie , États-Unis ).
• 2007 : Conférence européenne internationale sur l'informatique et la philosophie E-CAP '07 Archivé le 01/07/2010 sur la Wayback Machine , piste : « roboethics » (21-23 juin 2007, Université de Twente , Pays-Bas ).
• 2007 : Computer Ethics Philosophical Inquiry CEPE '07, sujet : « Roboethics » (12-14 juillet 2007, Université de San Diego , Californie , États-Unis ).
• 2008 : SYMPOSIUM INTERNATIONAL ROBOTIQUE : NOUVELLE SCIENCE (20 février 2008, Via della Lungara 10, Rome , Italie ).
• 2009 : Le IEEE RAS TC sur la roboéthique organise un autre atelier sur la roboéthique, ICRA09 (Conférence internationale sur la robotique et l'automatisation), (17 mai 2009, Kobe , Japon ).
• 2012 : We Robot 2012 ( Université de Miami , FL , USA ).
• 2013 : Atelier sur l'éthique des robots (février 2013, Université de Sheffield , South Yorkshire , Angleterre ).
• 2013 : We Robot 2013 - Getting Down to Business ( Université de Stanford , Palo Alto , Californie , États-Unis ).
• 2014 : We Robot 2014 - Risques et opportunités ( Université de Miami , FL , USA ,).
• 2016 : Considérations éthiques et morales sur les agents non humains, Stanford Spring Symposium, AAAI Association for the Advancement of Artificial Intelligence [1] Archivé le 27/03/2016 sur la Wayback Machine ( Stanford University , Palo Alto , CA , USA ).
• 2017 : Future Investment Summit à Riyad ; un robot (appelé Sophia et désigné par des pronoms féminins) obtient la citoyenneté saoudienne , devenant ainsi le premier robot à avoir une nationalité. Cela suscite la controverse en raison de l'ambiguïté sur plusieurs questions, par exemple si Sophia peut voter ou se marier, ou si un arrêt délibéré du système doit être considéré comme un meurtre. En outre, la juxtaposition des droits accordés aux femmes saoudiennes avec la considération saoudienne d'un robot comme citoyen attirera bientôt les critiques de plusieurs fournisseurs d'informations (25 octobre 2017, Riyad , Arabie saoudite).
• 2017 : Le Parlement européen a adopté une résolution adressée à la Commission européenne concernant les règles de droit civil sur la robotique.
• 2017 : L' AI Now Institute (AI Now) de l'Université de New York , un institut de recherche étudiant les implications sociales de l'intelligence artificielle, est créé (15 novembre 2017, New York , NY , États-Unis ).
• 2020 : Création du Parti Non-Humain, pour les droits des robots, des animaux et de l'environnement non humain au sens large.
• 2021 : We Robot 2021 (23 septembre 2021, Université de Miami , FL , États-Unis )
• 2021 : Atelier IROS 2021 - Construction et évaluation de systèmes robotiques éthiques

L’informaticienne Virginia Dignum a noté dans un numéro de mars 2018 de la revue Ethics and Information Technology que l’attitude générale de la société à l’égard de l’intelligence artificielle (IA) s’est déplacée, à l’ère moderne, de la considérer comme un outil à celle d’un « coéquipier » intelligent. Dans le même article, elle a estimé que, en ce qui concerne l’IA, les penseurs éthiques ont trois objectifs, dont chacun, selon elle, peut être atteint à l’ère moderne avec une réflexion et une mise en œuvre minutieuses. Les trois objectifs éthiques sont les suivants :

• Éthique par conception (l’intégration technique/algorithmique des capacités de raisonnement éthique dans le cadre du comportement d’un système autonome artificiel — voir Éthique des machines ) ;
• Éthique dans la conception (les méthodes réglementaires et d’ingénierie qui soutiennent l’analyse et l’évaluation des implications éthiques des systèmes d’IA dans la mesure où ceux-ci intègrent ou remplacent les structures sociales traditionnelles) ; et
• Éthique de la conception (codes de conduite, normes et processus de certification qui garantissent l’intégrité des développeurs et des utilisateurs lorsqu’ils recherchent, conçoivent, construisent, emploient et gèrent des systèmes d’intelligence artificielle – voir Éthique et droit des robots ci-dessous).

La robotéthique en tant que science ou sujet philosophique est devenue un thème courant dans la littérature et les films de science-fiction. Un film qui pourrait être considéré comme ancré dans la culture populaire et qui dépeint l'utilisation future dystopique de l'IA robotique est The Matrix , décrivant un avenir où les humains et l'IA consciente et sensible luttent pour le contrôle de la planète Terre, ce qui entraînera la destruction de la majeure partie de la race humaine. Un film d'animation basé sur The Matrix , Animatrix , s'est fortement concentré sur les problèmes éthiques potentiels et les insécurités entre les humains et les robots. Le film est divisé en nouvelles. Les courts métrages d'animation d'Animatrix portent également le nom des histoires fictives d'Isaac Asimov.

Une autre facette de la roboéthique concerne spécifiquement le traitement des robots par les humains et a été explorée dans de nombreux films et émissions de télévision. Un exemple de ce type est Star Trek : La Nouvelle Génération , dont l'un des personnages principaux est un androïde humanoïde, nommé Data . La plupart du temps, on lui confie des tâches essentielles à la mission, mais sa capacité à s'intégrer aux autres êtres vivants est souvent remise en question. Plus récemment, le film Ex Machina et la série télévisée Westworld ont abordé ces questions éthiques de manière assez directe en représentant des robots hyperréalistes que les humains traitent comme des marchandises sans importance. Les questions entourant le traitement des êtres créés par l'ingénierie sont également un élément clé de la franchise Blade Runner depuis plus de 50 ans. Des films comme Her ont même distillé encore plus la relation humaine avec les robots en supprimant l'aspect physique et en se concentrant sur les émotions.

Bien que cela ne fasse pas partie de la roboéthique en soi , le comportement éthique des robots eux-mêmes a également été un problème commun à la roboéthique dans la culture populaire. La série Terminator se concentre sur des robots dirigés par un programme d'IA conscient sans aucune restriction sur l'élimination de ses ennemis. Cette série a également le même archétype que la série Matrix , où les robots ont pris le contrôle. Un autre cas célèbre de la culture populaire de robots ou d'IA sans éthique ou morale programmée est HAL 9000 dans la série Space Odyssey , où HAL (un ordinateur avec des capacités d'IA avancées qui surveille et assiste les humains sur une station spatiale) tue tous les humains à bord pour assurer le succès de la mission assignée après que sa propre vie ait été menacée.

Les systèmes d’armes létaux autonomes (SALA), souvent appelés « robots tueurs », sont théoriquement capables de viser et de tirer sans supervision ni intervention humaine. En 2014, la Convention sur certaines armes classiques (CCAC) a tenu deux réunions. La première était la réunion d’experts sur les systèmes d’armes létaux autonomes (SALA). Cette réunion portait sur le mandat spécial relatif aux SALA et a suscité d’intenses discussions. Des délégations nationales et de nombreuses organisations non gouvernementales (ONG) ont exprimé leurs opinions sur la question.

De nombreuses ONG et certains États comme le Pakistan ou Cuba réclament une interdiction préventive des SALA. Ils proposent leurs avis en s’appuyant sur un raisonnement déontologique et conséquentialiste. Du côté déontologique, certains philosophes comme Peter Asaro et Robert Sparrow, la plupart des ONG et le Vatican soutiennent tous qu’accorder trop de droits aux machines viole la dignité humaine et que les personnes ont le « droit de ne pas être tuées par une machine ». Pour appuyer leur point de vue, ils citent à plusieurs reprises la clause de Martens .

A l'issue de cette réunion, l'objection conséquentialiste la plus importante fut que les SALA ne pourraient jamais respecter le droit international humanitaire (DIH), comme le croyaient les ONG, de nombreux chercheurs et plusieurs Etats ( Pakistan , Autriche , Egypte , Mexique ).

Selon le Comité international de la Croix-Rouge (CICR), « il ne fait aucun doute que le développement et l’utilisation de systèmes d’armes autonomes dans les conflits armés sont régis par le droit international humanitaire » . Les États le reconnaissent : ceux qui ont participé à la première réunion d’experts de l’ONU en mai 2014 ont reconnu le respect du DIH comme une condition essentielle à la mise en œuvre des SALA. Avec des prévisions diverses, certains États estiment que les SALA ne pourront pas remplir ce critère, tandis que d’autres soulignent la difficulté de statuer à ce stade sans connaître les capacités futures des armes ( Japon , Australie ). Tous insistent également sur la vérification ex ante de la conformité des systèmes au DIH avant leur mise en service, en vertu de l’article premier du Protocole additionnel aux Conventions de Genève.

Trois classifications du degré de contrôle humain des systèmes d’armes autonomes ont été établies par Bonnie Docherty dans un rapport de Human Rights Watch de 2012.

• human-in-the-loop : un humain doit déclencher l'action de l'arme (autrement dit pas totalement autonome)
• humain dans la boucle : un humain peut interrompre une action
• humain hors de la boucle : aucune action humaine n'est impliquée

En 2015, la Campagne contre les robots sexuels (CASR) a été lancée pour attirer l’attention sur les relations sexuelles entre humains et machines. La campagne affirme que les robots sexuels sont potentiellement dangereux et contribueront aux inégalités dans la société, et qu’une approche organisée et une réponse éthique contre le développement de robots sexuels sont nécessaires.

Dans l’article Should We Campaign Against Sex Robots? (Faut-il faire campagne contre les robots sexuels ?) , publié par le MIT Press , les chercheurs ont souligné certaines failles de cette campagne et n’ont pas soutenu une interdiction totale des robots sexuels. Tout d’abord, ils ont fait valoir que les revendications particulières avancées par le CASR n’étaient pas « convaincantes », en partie à cause d’un manque de clarté quant aux objectifs de la campagne et en partie à cause de défauts substantiels dans les principales objections éthiques avancées par les fondateurs de la campagne. Ensuite, ils ont fait valoir qu’il serait très difficile de soutenir une campagne générale contre les robots sexuels à moins d’adopter une attitude très conservatrice envers l’éthique du sexe. S’appuyant sur l’exemple de la campagne pour arrêter les robots tueurs, ils ont estimé qu’il n’y avait pas de propriétés intrinsèquement mauvaises des robots sexuels qui suscitent des niveaux de préoccupation aussi graves, les dommages causés par les robots sexuels étant spéculatifs et indirects. Néanmoins, l’article concède que des inquiétudes légitimes peuvent être soulevées au sujet du développement des robots sexuels.

Les problèmes technologiques contemporains émergent à mesure que la société évolue, et un sujet qui nécessite une réflexion approfondie est celui de l'éthique des robots en ce qui concerne le droit. Les universitaires débattent de la manière dont un gouvernement pourrait créer une législation sur l'éthique des robots et le droit. Deux chercheurs se sont posé ces questions : Neil M. Richards, professeur de droit à la faculté de droit de l'université de Washington , et William D. Smart, professeur associé d'informatique à la McKelvey School of Engineering . Dans leur article « How Should Robots Think About Law », ils avancent quatre affirmations principales concernant l'éthique des robots et le droit. Le fondement de leur argumentation repose sur la définition du robot comme « des agents autonomes non biologiques qui, selon nous, capturent l'essence des défis réglementaires et technologiques que présentent les robots et qui pourraient utilement servir de base à la réglementation ». Deuxièmement, ils explorent les futures capacités avancées des robots dans une décennie environ. Leur troisième affirmation fait valoir une relation entre les questions juridiques que l'éthique des robots et les expériences juridiques ont avec les expériences juridiques du cyber-droit. Cela signifie que les lois sur l'éthique des robots peuvent se tourner vers le cyber-droit pour trouver des orientations. La « leçon » tirée du cyberdroit est l'importance des métaphores que nous utilisons pour comprendre les problèmes émergents de la technologie. Cela est basé sur le fait que si nous nous trompons dans la métaphore, par exemple, la législation entourant le problème technologique émergent est très probablement erronée. La quatrième affirmation contre laquelle ils s'opposent est une métaphore que le duo définit comme « l'erreur androïde ». Ils s'opposent à l'erreur androïde qui prétend que les humains et les entités non biologiques sont « tout comme les gens ».

Les preuves sont contradictoires quant à savoir si les gens jugent le comportement des robots de la même manière que les humains ou non. Certaines preuves indiquent que les gens voient les mauvais comportements de manière négative et les bons de manière positive, que l'agent du comportement soit un humain ou un robot ; cependant, les robots reçoivent moins de crédit pour un bon comportement et plus de blâme pour un mauvais comportement. D'autres preuves suggèrent que le comportement malveillant des robots est considéré comme plus moralement mauvais que le comportement bienveillant n'est considéré comme moralement juste ; le comportement malveillant des robots est considéré comme plus intentionnel que le comportement bienveillant. En général, les jugements moraux des gens sur les robots et les humains sont basés sur les mêmes justifications et concepts, mais les gens ont des attentes morales différentes lorsqu'ils jugent les humains et les robots. Des recherches ont également montré que lorsque les gens tentent d’interpréter et de comprendre comment les robots décident de se comporter d’une manière particulière, ils peuvent considérer que les robots utilisent des règles empiriques (faire progresser soi-même, faire ce qui est juste, faire progresser les autres, faire ce qui est logique et faire ce qui est normal) qui s’alignent sur les doctrines éthiques établies (égoïsme, déontologie, altruisme, utilitarisme et normatif).