Il est temps de réfléchir aux nouvelles valeurs éthiques

Les robots vont-ils pren­dre notre tra­vail ? Vont-ils se retourn­er con­tre nous ? Est-ce que les robots vont nous ren­dre dépendants ?

Nous arrivons à un moment clef dans le développe­ment de la robotique

Ces ques­tions clas­siques illus­trent l’in­térêt crois­sant porté aux sujets éthiques liés à la robo­t­ique, ques­tions sou­vent lim­itées à ce que les films hol­ly­woo­d­i­ens nous don­nent à en voir.

Un sujet qui passionne

Cet intérêt, et le besoin d’en débat­tre, va aller crois­sant alors que la robo­t­ique, en par­ti­c­uli­er la robo­t­ique grand pub­lic, va entr­er pro­gres­sive­ment dans notre quo­ti­di­en. Dans le cadre du syn­di­cat ” Syrobo ” des acteurs de la robo­t­ique grand pub­lic, il est envis­agé une com­mis­sion sur l’éthique et la robo­t­ique afin de com­mencer à men­er une réflex­ion en amont sur ce thème et de pou­voir affin­er notre com­préhen­sion des enjeux sous-jacents, tout en pro­posant éventuelle­ment des recommandations.

REPÈRES
Le robot appa­raît comme une machine d’un type nou­veau par son autonomie, sa capac­ité d’in­ter­ac­tion avec les per­son­nes et l’en­vi­ron­nement, ses fac­ultés d’ap­pren­tis­sage qui lui per­me­t­tent de s’adapter et, de manière générale, par la nature com­plexe ou dan­gereuse des tâch­es qu’il peut réalis­er, lui don­nant la pos­si­bil­ité de rem­plac­er ou de dépass­er l’Homme. C’est cette com­bi­nai­son de qual­ités qui dif­féren­cie le robot dans l’in­con­scient col­lec­tif du sim­ple out­il ou de la machine à laver, à tiss­er, à couper, etc. C’est l’idée que, par ses qual­ités, le robot se rap­proche de l’Homme et, d’une cer­taine manière, entre en com­péti­tion avec lui sur le plan physique, intel­lectuel, émo­tion­nel. En cela, c’est un objet qui soulève des inter­ro­ga­tions éthiques nou­velles car il force plus que toute autre inven­tion à se pos­er des ques­tions sur ce qui définit la nature humaine, ce qui est inhérent à l’Homme ou ce qu’il peut aban­don­ner à des machines. Cette ques­tion n’est pas nou­velle, du golem aux lud­dites, elle ne cesse d’ac­com­pa­g­n­er les pro­grès de la technologie.

Dans la pra­tique, les robots que l’on peut acheter aujour­d’hui ont une autonomie lim­itée, des capac­ités d’ap­pren­tis­sage encore réduites et sont glob­ale­ment assez loin de pos­er des prob­lèmes éthiques d’un genre nou­veau. Per­son­ne n’a à se plain­dre du fait que l’aspi­ra­teur automa­tique Room­ba nous évite quelques heures de ménage par mois, et ce n’est pas cette machine qui va faire s’effondrer le marché du tra­vail dans le monde. 

Mais la tech­nolo­gie en robo­t­ique pro­gresse très vite : la vision arti­fi­cielle pour recon­naître des images, des vis­ages, pour se localis­er dans l’e­space, la syn­thèse et la recon­nais­sance vocales, la méca­tron­ique, les tech­niques d’ap­pren­tis­sage par ren­force­ment, toutes ces tech­nolo­gies ont fait des pro­grès remar­quables au cours des dix dernières années. Ajou­tons à cela les pro­grès dans la minia­tur­i­sa­tion, les cap­teurs, les bat­ter­ies et le prix en baisse de ces tech­nolo­gies, et nous arrivons très cer­taine­ment à un point de con­ver­gence et un moment clef dans le développe­ment de la robo­t­ique. Dans de nom­breux lab­o­ra­toires et dans quelques sociétés privées, dont cer­taines français­es, des machines réelle­ment impres­sion­nantes sont con­stru­ites à ce jour et devraient être disponibles sur le marché au plus tard dans la décen­nie à venir. Des machines qui entrent tout à fait dans le cadre de la déf­i­ni­tion pra­tique du ” robot ” et qui sus­citeront cer­taine­ment des débats éthiques.

Légifér­er temporairement
Si réelle­ment la société n’ar­rivait pas à se réin­ven­ter ou s’adapter assez vite, il resterait tou­jours la pos­si­bil­ité de légifér­er pour restrein­dre les domaines où la robo­t­ique peut être employée, en atten­dant d’ou­vrir pro­gres­sive­ment de nou­velles per­spec­tives pour cha­cun et d’or­gan­is­er une tran­si­tion vers une économie robo­t­ique. Nous n’en sommes pas là, mais les enjeux pour la crois­sance et la créa­tion d’emplois sont réels et il faut que l’Eu­rope et la France en par­ti­c­uli­er puis­sent jouer un rôle clé dans cette économie de demain.

Chômage et création de nouveaux métiers

Le pre­mier risque est celui de l’aug­men­ta­tion du chô­mage pour les employés les moins qual­i­fiés. On évoque jusqu’à 30 % de la pop­u­la­tion sans tra­vail et sans per­spec­tive d’en retrou­ver, ce qui peut men­er à un effon­drement social dont les con­séquences sont imprévisibles.

La robo­t­ique va peut-être aider les hommes à se rapprocher

L’é­d­u­ca­tion et la for­ma­tion con­tin­ue jouent un rôle cru­cial, mais sera-t-il suff­isant ? Les pertes d’emplois générées par la robo­t­i­sa­tion peu­vent favoris­er la créa­tion de nou­veaux métiers liés à la robo­t­ique (entre­tien, ser­vice, for­ma­tion), mais égale­ment orthog­o­naux à la robo­t­ique, en par­ti­c­uli­er les métiers de prox­im­ité où le con­tact humain est la véri­ta­ble valeur ajoutée (aide aux per­son­nes seules, aux enfants, activ­ités artis­tiques, cul­turelles, etc.).

Cela peut néces­siter des évo­lu­tions fortes de la société, tout comme l’a été la tran­si­tion du monde de la révo­lu­tion indus­trielle à celui de l’ère tech­nologique que nous vivons actuellement. 

Recentrer les rapports humains

Le sec­ond risque sou­vent évo­qué est la déshu­man­i­sa­tion. Alors que nous allons vivre pro­gres­sive­ment dans un monde de plus en plus entouré de robots, des robots patients, tolérants, imper­turbables, atten­tion­nés, à quel point n’en vien­dri­ons- nous pas à préfér­er leur com­pag­nie à celle des êtres humains ? L’ensem­ble des liens qui unis­sent les êtres humains dépasse une sim­ple analyse util­i­taire, et, sauf cas pathologique, l’Homme restera un ani­mal social et aura donc un besoin fort de con­tact avec ses sem­blables. Au con­traire, la robo­t­ique peut recen­tr­er les rap­ports humains sur ce qui fait leur vraie valeur et leur véri­ta­ble intérêt. Plutôt que de déshu­man­is­er, la robo­t­ique va peut-être au con­traire aider les Hommes à se rapprocher. 

ISTOCK PHOTO

Accentuer la dépendance technologique

Le troisième exem­ple con­cerne la dépen­dance tech­nologique, le risque de voir un monde où l’Homme ne peut tout sim­ple­ment plus se pass­er des robots pour survivre.

Il faut se garder des répons­es trop sim­ples ou imagées

Ce monde existe déjà, bien sûr, même si notre dépen­dance n’est pas liée aux robots : imag­i­nons un instant ce que provo­querait une coupure glob­ale de l’élec­tric­ité sur la planète en quelques semaines, voire quelques jours. Et ce n’est qu’un exem­ple par­mi de nom­breux autres ; notre dépen­dance tech­nologique est déjà une réalité.

Les trois lois d’Asimov
Célèbre auteur de sci­ence-fic­tion, Isaac Asi­mov (1920–1992) a con­sacré une grande par­tie de son oeu­vre aux robots, du moins tels qu’il pou­vait les imag­in­er dans un futur plus ou moins loin­tain. Les robots d’Asi­mov respectent trois lois fon­da­men­tales : 1) un robot ne peut porter atteinte à un être humain, ni, restant pas­sif, per­me­t­tre qu’un être humain soit exposé au dan­ger ; 2) un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en con­flit avec la pre­mière loi ; 3) un robot doit pro­téger son exis­tence tant que cette pro­tec­tion n’en­tre pas en con­flit avec la pre­mière ou la sec­onde loi.

La robo­t­ique viendrait sans doute con­tribuer à accentuer cette dépen­dance générale à la tech­nolo­gie, mais on peut aus­si imag­in­er qu’au con­traire elle nous per­me­tte d’être plus résis­tants aux acci­dents : un robot peut répar­er un autre robot, qui peut répar­er une cen­trale élec­trique, etc., et cela peut-être mieux que nous ne pour­rions le faire nous-mêmes. 

Des missions militaires

Le dernier exem­ple est celui de l’usage mil­i­taire de la robo­t­ique. Il est évidem­ment inquié­tant d’imag­in­er un robot autorisé à tir­er sur un humain de manière autonome, et ce type de scé­nario reste encore très peu prob­a­ble pour des raisons évi­dentes. La majorité des appli­ca­tions mil­i­taires con­cer­nent la sur­veil­lance, le démi­nage, la recon­nais­sance, et en ce sens le robot ne fait que pro­téger, ou amélior­er les capac­ités d’ac­tion des sol­dats, sans en chang­er rad­i­cale­ment la nature. Le risque peut-être le plus impor­tant est de ren­dre le coût social d’une inter­ven­tion armée de moins en moins élevé, car le risque de devoir faire face à des pertes mas­sives de troupes dimin­ue. Il y a une pos­si­bil­ité que cela banalise le recours à la force dans de nom­breux con­flits. La nature des con­flits évolue en per­ma­nence avec l’ar­rivée de nou­velles tech­nolo­gies, et il faut rester poli­tique­ment vig­i­lant face à l’escalade qui peut en découler. On repense ici aux efforts pour la non-pro­liféra­tion nucléaire, par exemple.

Vie privée et démocratie
De nom­breuses autres ques­tions se posent : respect de la vie privée avec des robots omniprésents et con­nec­tés, accès démoc­ra­tique aux tech­nolo­gies (les robots seront-ils chers ?), prob­lèmes envi­ron­nemen­taux, énergé­tiques, etc. Les robots ne posent d’ailleurs pas for­cé­ment que des ques­tions nou­velles, mais parta­gent les mêmes prob­lé­ma­tiques que n’im­porte quel objet d’élec­tron­ique grand public.

Réfléchir en amont

SHUTTERSTOCK

Face à ces ques­tions, quelles répons­es pou­vons- nous apporter ? Il faut bien sûr être très hum­ble ici, car il n’y a pas de réponse toute faite, d’au­tant plus que les prob­lèmes poten­tiels ne sont pas for­cé­ment bien iden­ti­fiés aujour­d’hui. Une pre­mière chose impor­tante est d’ou­vrir le débat, d’é­couter et de réfléchir en amont à ces ques­tions. C’est ce que nous essayons de faire par exem­ple dans le cadre de la Com­mis­sion éthique et robo­t­ique de Syrobo. D’autres ini­tia­tives sim­i­laires exis­tent aux États-Unis, au Japon, en Corée, en Ital­ie et au niveau européen. La deux­ième chose est de se garder des répons­es trop sim­ples ou imagées, comme, par exem­ple, les fameuses trois lois d’Asi­mov. Il faudrait con­sacr­er un arti­cle entier à expli­quer en quoi cette approche, dite ” éthique déon­tologique “, ne con­vient pas pour des robots. Essen­tielle­ment, dis­ons sim­ple­ment qu’elle n’est pas spé­ci­fi­able pour une machine, il n’est pas pos­si­ble d’en don­ner une représen­ta­tion formelle (pas plus qu’il ne serait pos­si­ble de le faire pour un humain d’ailleurs). Il existe une large lit­téra­ture sur ces sujets, à com­mencer par les livres d’Asi­mov eux-mêmes. 

Éduquer au lieu de programmer

SHUTTERSTOCK

Lorsque l’on par­le d’ap­pren­tis­sage ou d’au­tonomie d’un robot, il ne s’ag­it en fait, à ce jour, que d’une capac­ité du robot à évoluer dans un espace de com­porte­ment plus ou moins défi­ni par l’ingénieur ou le chercheur. Même dans des approches telles que la pro­gram­ma­tion par algo­rithmes géné­tiques, qui per­met de faire émerg­er des solu­tions orig­i­nales sans inter­ven­tion du con­cep­teur, l’e­space de recherche et la fonc­tion dite de fit­ness qui pilote l’évo­lu­tion du sys­tème sont déter­minés de manière cru­ciale par le con­cep­teur. Il sera un jour pos­si­ble, par exem­ple en s’in­spi­rant des recherch­es actuelles en robo­t­ique ” développe­men­tale “, d’aller vers des sys­tèmes capa­bles de réel appren­tis­sage, capa­bles de con­stru­ire dynamique­ment du sens et des objec­tifs à plusieurs niveaux, de man­i­fester de la curiosité, des émo­tions. Bref, de per­me­t­tre au robot non plus d’être ” pro­gram­mé ” mais d’être ” éduqué “.

Appren­dre à un robot comme on le fait à un enfant

Il sera pos­si­ble d’ap­pren­dre de nou­velles tâch­es, de nou­veaux con­cepts et sans doute égale­ment de nou­velles valeurs éthiques à un robot, comme on le fait aujour­d’hui avec un enfant. Quand ce jour vien­dra, nous aurons alors une tout autre dimen­sion à pren­dre en compte lorsque nous par­lerons d’éthique et de robo­t­ique. Il ne s’a­gi­ra plus unique­ment d’éthique du com­porte­ment du robot envers l’Homme, mais aus­si de celui de l’Homme envers le robot. Il est même prob­a­ble que la fron­tière entre Homme et robot devi­enne floue (l’Homme a déjà qua­si fusion­né avec son iPhone) et qu’il faille à nou­veau revenir sur la déf­i­ni­tion sans cesse mou­vante de ce qu’est un robot.

---

Articles similaires :

Réor­gan­is­er la fil­ière économique de soins FISCALITE : L’arme secrète de l’Amérique Une car­rière, ça se gère Intro­duc­tion Ingénierie des génomes : les atouts de la France face à un enjeu mondial La France mar­itime, un atout déterminant