Il est temps de réfléchir aux nouvelles valeurs éthiques

Dossier : La RobotiqueMagazine N°655 Mai 2010
Par Jean-Christophe BAILLIE (94)

Les robots vont-ils prendre notre travail ? Vont-ils se retourner contre nous ? Est-ce que les robots vont nous rendre dépendants ?

Nous arrivons à un moment clef dans le développement de la robotique

Ces questions classiques illustrent l'intérêt croissant porté aux sujets éthiques liés à la robotique, questions souvent limitées à ce que les films hollywoodiens nous donnent à en voir.

Un sujet qui passionne

Cet intérêt, et le besoin d'en débattre, va aller croissant alors que la robotique, en particulier la robotique grand public, va entrer progressivement dans notre quotidien. Dans le cadre du syndicat " Syrobo " des acteurs de la robotique grand public, il est envisagé une commission sur l'éthique et la robotique afin de commencer à mener une réflexion en amont sur ce thème et de pouvoir affiner notre compréhension des enjeux sous-jacents, tout en proposant éventuellement des recommandations.

REPÈRES
Le robot apparaît comme une machine d'un type nouveau par son autonomie, sa capacité d'interaction avec les personnes et l'environnement, ses facultés d'apprentissage qui lui permettent de s'adapter et, de manière générale, par la nature complexe ou dangereuse des tâches qu'il peut réaliser, lui donnant la possibilité de remplacer ou de dépasser l'Homme. C'est cette combinaison de qualités qui différencie le robot dans l'inconscient collectif du simple outil ou de la machine à laver, à tisser, à couper, etc. C'est l'idée que, par ses qualités, le robot se rapproche de l'Homme et, d'une certaine manière, entre en compétition avec lui sur le plan physique, intellectuel, émotionnel. En cela, c'est un objet qui soulève des interrogations éthiques nouvelles car il force plus que toute autre invention à se poser des questions sur ce qui définit la nature humaine, ce qui est inhérent à l'Homme ou ce qu'il peut abandonner à des machines. Cette question n'est pas nouvelle, du golem aux luddites, elle ne cesse d'accompagner les progrès de la technologie.

Dans la pratique, les robots que l'on peut acheter aujourd'hui ont une autonomie limitée, des capacités d'apprentissage encore réduites et sont globalement assez loin de poser des problèmes éthiques d'un genre nouveau. Personne n'a à se plaindre du fait que l'aspirateur automatique Roomba nous évite quelques heures de ménage par mois, et ce n’est pas cette machine qui va faire s’effondrer le marché du travail dans le monde. 

SHUTTER STOCK

Mais la technologie en robotique progresse très vite : la vision artificielle pour reconnaître des images, des visages, pour se localiser dans l'espace, la synthèse et la reconnaissance vocales, la mécatronique, les techniques d'apprentissage par renforcement, toutes ces technologies ont fait des progrès remarquables au cours des dix dernières années. Ajoutons à cela les progrès dans la miniaturisation, les capteurs, les batteries et le prix en baisse de ces technologies, et nous arrivons très certainement à un point de convergence et un moment clef dans le développement de la robotique. Dans de nombreux laboratoires et dans quelques sociétés privées, dont certaines françaises, des machines réellement impressionnantes sont construites à ce jour et devraient être disponibles sur le marché au plus tard dans la décennie à venir. Des machines qui entrent tout à fait dans le cadre de la définition pratique du " robot " et qui susciteront certainement des débats éthiques.

Légiférer temporairement
Si réellement la société n'arrivait pas à se réinventer ou s'adapter assez vite, il resterait toujours la possibilité de légiférer pour restreindre les domaines où la robotique peut être employée, en attendant d'ouvrir progressivement de nouvelles perspectives pour chacun et d'organiser une transition vers une économie robotique. Nous n'en sommes pas là, mais les enjeux pour la croissance et la création d'emplois sont réels et il faut que l'Europe et la France en particulier puissent jouer un rôle clé dans cette économie de demain.

Chômage et création de nouveaux métiers

Le premier risque est celui de l'augmentation du chômage pour les employés les moins qualifiés. On évoque jusqu'à 30 % de la population sans travail et sans perspective d'en retrouver, ce qui peut mener à un effondrement social dont les conséquences sont imprévisibles.

La robotique va peut-être aider les hommes à se rapprocher

L'éducation et la formation continue jouent un rôle crucial, mais sera-t-il suffisant ? Les pertes d'emplois générées par la robotisation peuvent favoriser la création de nouveaux métiers liés à la robotique (entretien, service, formation), mais également orthogonaux à la robotique, en particulier les métiers de proximité où le contact humain est la véritable valeur ajoutée (aide aux personnes seules, aux enfants, activités artistiques, culturelles, etc.).

Cela peut nécessiter des évolutions fortes de la société, tout comme l'a été la transition du monde de la révolution industrielle à celui de l'ère technologique que nous vivons actuellement. 

Recentrer les rapports humains

Le second risque souvent évoqué est la déshumanisation. Alors que nous allons vivre progressivement dans un monde de plus en plus entouré de robots, des robots patients, tolérants, imperturbables, attentionnés, à quel point n'en viendrions- nous pas à préférer leur compagnie à celle des êtres humains? L'ensemble des liens qui unissent les êtres humains dépasse une simple analyse utilitaire, et, sauf cas pathologique, l'Homme restera un animal social et aura donc un besoin fort de contact avec ses semblables. Au contraire, la robotique peut recentrer les rapports humains sur ce qui fait leur vraie valeur et leur véritable intérêt. Plutôt que de déshumaniser, la robotique va peut-être au contraire aider les Hommes à se rapprocher. 

Poignée de main avec un robot
ISTOCK PHOTO

Accentuer la dépendance technologique

Le troisième exemple concerne la dépendance technologique, le risque de voir un monde où l'Homme ne peut tout simplement plus se passer des robots pour survivre.

Il faut se garder des réponses trop simples ou imagées

Ce monde existe déjà, bien sûr, même si notre dépendance n'est pas liée aux robots : imaginons un instant ce que provoquerait une coupure globale de l'électricité sur la planète en quelques semaines, voire quelques jours. Et ce n'est qu'un exemple parmi de nombreux autres; notre dépendance technologique est déjà une réalité.

Les trois lois d'Asimov
Célèbre auteur de science-fiction, Isaac Asimov (1920-1992) a consacré une grande partie de son oeuvre aux robots, du moins tels qu'il pouvait les imaginer dans un futur plus ou moins lointain. Les robots d'Asimov respectent trois lois fondamentales : 1) un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger ; 2) un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi ; 3) un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la seconde loi.

La robotique viendrait sans doute contribuer à accentuer cette dépendance générale à la technologie, mais on peut aussi imaginer qu'au contraire elle nous permette d'être plus résistants aux accidents : un robot peut réparer un autre robot, qui peut réparer une centrale électrique, etc., et cela peut-être mieux que nous ne pourrions le faire nous-mêmes. 

Des missions militaires

Le dernier exemple est celui de l'usage militaire de la robotique. Il est évidemment inquiétant d'imaginer un robot autorisé à tirer sur un humain de manière autonome, et ce type de scénario reste encore très peu probable pour des raisons évidentes. La majorité des applications militaires concernent la surveillance, le déminage, la reconnaissance, et en ce sens le robot ne fait que protéger, ou améliorer les capacités d'action des soldats, sans en changer radicalement la nature. Le risque peut-être le plus important est de rendre le coût social d'une intervention armée de moins en moins élevé, car le risque de devoir faire face à des pertes massives de troupes diminue. Il y a une possibilité que cela banalise le recours à la force dans de nombreux conflits. La nature des conflits évolue en permanence avec l'arrivée de nouvelles technologies, et il faut rester politiquement vigilant face à l'escalade qui peut en découler. On repense ici aux efforts pour la non-prolifération nucléaire, par exemple.

Vie privée et démocratie
De nombreuses autres questions se posent : respect de la vie privée avec des robots omniprésents et connectés, accès démocratique aux technologies (les robots seront-ils chers ?), problèmes environnementaux, énergétiques, etc. Les robots ne posent d'ailleurs pas forcément que des questions nouvelles, mais partagent les mêmes problématiques que n'importe quel objet d'électronique grand public.

Réfléchir en amont

SHUTTERSTOCK

Face à ces questions, quelles réponses pouvons- nous apporter ? Il faut bien sûr être très humble ici, car il n'y a pas de réponse toute faite, d'autant plus que les problèmes potentiels ne sont pas forcément bien identifiés aujourd'hui. Une première chose importante est d'ouvrir le débat, d'écouter et de réfléchir en amont à ces questions. C'est ce que nous essayons de faire par exemple dans le cadre de la Commission éthique et robotique de Syrobo. D'autres initiatives similaires existent aux États-Unis, au Japon, en Corée, en Italie et au niveau européen. La deuxième chose est de se garder des réponses trop simples ou imagées, comme, par exemple, les fameuses trois lois d'Asimov. Il faudrait consacrer un article entier à expliquer en quoi cette approche, dite " éthique déontologique ", ne convient pas pour des robots. Essentiellement, disons simplement qu'elle n'est pas spécifiable pour une machine, il n'est pas possible d'en donner une représentation formelle (pas plus qu'il ne serait possible de le faire pour un humain d'ailleurs). Il existe une large littérature sur ces sujets, à commencer par les livres d'Asimov eux-mêmes. 

Éduquer au lieu de programmer

SHUTTERSTOCK

Lorsque l'on parle d'apprentissage ou d'autonomie d'un robot, il ne s'agit en fait, à ce jour, que d'une capacité du robot à évoluer dans un espace de comportement plus ou moins défini par l'ingénieur ou le chercheur. Même dans des approches telles que la programmation par algorithmes génétiques, qui permet de faire émerger des solutions originales sans intervention du concepteur, l'espace de recherche et la fonction dite de fitness qui pilote l'évolution du système sont déterminés de manière cruciale par le concepteur. Il sera un jour possible, par exemple en s'inspirant des recherches actuelles en robotique " développementale ", d'aller vers des systèmes capables de réel apprentissage, capables de construire dynamiquement du sens et des objectifs à plusieurs niveaux, de manifester de la curiosité, des émotions. Bref, de permettre au robot non plus d'être " programmé " mais d'être " éduqué ".

Apprendre à un robot comme on le fait à un enfant

Il sera possible d'apprendre de nouvelles tâches, de nouveaux concepts et sans doute également de nouvelles valeurs éthiques à un robot, comme on le fait aujourd'hui avec un enfant. Quand ce jour viendra, nous aurons alors une tout autre dimension à prendre en compte lorsque nous parlerons d'éthique et de robotique. Il ne s'agira plus uniquement d'éthique du comportement du robot envers l'Homme, mais aussi de celui de l'Homme envers le robot. Il est même probable que la frontière entre Homme et robot devienne floue (l'Homme a déjà quasi fusionné avec son iPhone) et qu'il faille à nouveau revenir sur la définition sans cesse mouvante de ce qu'est un robot.

Commentaire

Ajouter un commentaire

Jean-Marcrépondre
17 juin 2012 à 12 h 19 min


Très juste ! Peut-être qu’il faudra « spécifier l’espace de doute ‘nécessaire’ à chaque robot ». De quoi peut-il douter ? De quoi ne peut-il pas douter ? Nous coderons ainsi les limites en dur de ce dont ils ne devront pas douter et leur laisserons de la marge quant au domaine sur lequel ils pourront apprendre (i.e. nécessairement douter ;D !).

Pour nous, êtres humains, il me semble que, justement, nous n’avons pas encore atteint cette limite ! Qu’il s’agisse de nos représentations (en sciences comme du reste d’ailleurs, il existe une foule d’exemples où nous doutons à mort ;D !) comme de nos observations (de l’infiniment petit, à l’infiniment grand mais aussi de n’importe quelle observation potentiellement issue d’un foultitude de paramètres et dont l’explication, i.e. le modèle de représentation, s’avère pour le coup difficile à élucider…). Bref nous, nous pouvons vraiment remettre en cause les choses ! C’est une des définitions de la liberté, non ?

Ce sera à nous de contrôler tout cela… Ce sera sûrement une responsabilité aussi exténuante que celle d’éduquer un enfant (il paraît que même à 30 ans on est pas fini ! ;D !).

Bien à vous.

Répondre