IA, le risque d’une humanité diminuée

À l’an­nonce du dos­sier sur l’in­tel­li­gence arti­fi­cielle, Cédric SAUVIAT, par ailleurs créa­teur de l’Asso­cia­tion fran­çaise contre l’IA, a vou­lu faire connaître son point de vue. Il est impé­ra­tif d’a­voir un débat public pour dis­cu­ter du dan­ger poten­tiel et sur­tout évi­ter que ce soit un magni­fique outil de domi­na­tion des masses par les puissants. 

L’intel­li­gence arti­fi­cielle (ou IA) c’est « tout ce que l’ordinateur ne sait pas encore faire ». Cette défi­ni­tion en forme de bou­tade, qui cir­cule par­mi les infor­ma­ti­ciens, résume bien le carac­tère pro­téi­forme et évo­lu­tif d’une tech­no­lo­gie qui cris­tal­lise aujourd’hui les uto­pies et les espoirs. 

C’est jus­te­ment parce qu’on ne sait pas ce que l’IA pour­ra faire dans un ave­nir plus ou moins loin­tain que le débat sur ses impli­ca­tions à la fois éthiques, sociales, éco­no­miques et anthro­po­lo­giques se révèle pas­sion­nant et indispensable. 

Il n’est pas ques­tion ici de contes­ter la dimen­sion révo­lu­tion­naire de l’IA, son influence consi­dé­rable et indé­niable sur les dif­fé­rentes dimen­sions de nos exis­tences (vie pra­tique, pro­fes­sion­nelle, san­té…) mais au contraire d’en sai­sir toute la por­tée, d’aller plus loin que les titres actuels des maga­zines, les­quels balancent entre tech­no-ido­lâ­trie sans grande per­ti­nence (Le Point a com­pa­ré Mark Zucker­berg et Ray Kurz­weil à Aris­tote et Pla­ton…) et alar­misme sou­vent peu constructif. 

AI IS WATCHING YOU

Dans son remar­quable ouvrage La Sili­co­lo­ni­sa­tion du monde, le phi­lo­sophe Éric Sadin décrit nos socié­tés mar­quées par l’explosion des inter­faces digi­tales dans tous les domaines de la vie quotidienne. 

Avec les chat­bots, il sera plus facile d’interagir avec un algo­rithme dont les réponses ont été soi­gneu­se­ment cali­brées pour nous plaire, qu’avec un être humain. © MAKC76

Nos faits et gestes sont ain­si recueillis et sto­ckés. Ils four­nissent une matière pré­cieuse aux algo­rithmes des géants du numé­rique. Cette récolte de don­nées et les ana­lyses qui en découlent per­mettent la créa­tion de ser­vices per­for­mants dont nous n’observons encore que les prémices. 

Ce phé­no­mène devrait en effet s’accentuer avec l’irruption annon­cée des objets connec­tés ain­si que des assis­tants per­son­nels, dont Siri ou Echo ne sont que des pré­fi­gu­ra­tions. Iden­ti­fié, enre­gis­tré, cha­cun de nous se ver­ra ain­si accom­pa­gné dans son quo­ti­dien grâce à des sug­ges­tions per­son­na­li­sées et de plus en plus précises. 

Avec quelles consé­quences sur notre liber­té de choix, et notre capa­ci­té à prendre des décisions ? 

Capables de gérer des pro­blèmes de plus en plus com­plexes, et nous offrant une assis­tance tou­jours meilleure, les machines régle­ront de plus en plus de pro­blèmes à notre place, enta­mant, par une suc­ces­sion de petits pro­grès, notre auto­no­mie, notre libre arbitre. 

DIVERTIS ET PLEINS DE MISÈRE

Aujourd’hui, l’écran est deve­nu un réflexe. Nous sommes de moins en moins capables de mener une conver­sa­tion avec un ami, sans nous pen­cher toutes les cinq minutes vers notre smart­phone. Dans Contact, le pen­seur Mat­thew Craw­ford s’inquiète des effets per­vers de la dété­rio­ra­tion de notre capa­ci­té d’attention.

Sans cesse diver­tis, sur­tout si des cap­teurs signalent que notre niveau d’attention baisse, sans cesse gui­dés, ne per­drons-nous pas jus­te­ment ce contact avec le réel, dont les aspé­ri­tés et l’imprédictibilité sont à la base de l’expérience humaine. 

ENTRETIEN AVEC UN ROBOT

Si nous ris­quons de perdre tout contact avec le réel, ce sera pire avec les autres. L’anthropologue Sher­ry Turkle a décrit, dans Seuls ensemble, notre ten­dance à anthro­po­mor­phi­ser notre rela­tion avec tout objet qui nous paraî­trait vivant et doué de conscience (et ce, même si nous savons que ce n’est pas le cas). 

De sur­croît, à lui pré­fé­rer sa com­pa­gnie plu­tôt que celle des êtres humains. Un article paru récem­ment dans The Atlan­tic a sus­ci­té un réel débat dans l’univers de la Sili­con Val­ley : le taux d’accidents vio­lents et de gros­sesses non dési­rées a for­te­ment bais­sé chez les ado­les­cents amé­ri­cains, en revanche leur taux de sui­cide a augmenté. 

La rai­son ? Ils ne fré­quentent presque plus leurs congé­nères que par le biais des réseaux sociaux. La vague qui entoure les chat­bots – la nou­velle tech­no­lo­gie de simu­la­tion de dia­logue – si elle témoigne bien sûr d’un effet de mode, signe éga­le­ment une ten­dance plus pro­fonde : à savoir qu’il sera plus facile d’interagir avec un algo­rithme dont les réponses ont été soi­gneu­se­ment cali­brées pour nous plaire, qu’avec un être humain. 

L’HOMME REMPLACÉ

Au lieu de can­ton­ner les machines dans des domaines où elles peuvent sup­pléer l’homme (per­sonne ne contes­te­ra qu’il vaille mieux lais­ser à un algo­rithme le cal­cul de la tra­jec­toire d’un satel­lite), les pro­fes­sion­nels de l’IA cherchent au contraire à l’immiscer dans tous les domaines de la vie humaine, en par­tant d’un pré­sup­po­sé jamais énon­cé : si la machine peut faire quelque chose à la place de l’homme, elle le fera mieux. 

C’est donc une com­pa­rai­son constante avec la machine que subit l’homme, ce qui ne manque pas de le pla­cer en situa­tion d’infériorité. Si, par exemple, l’ordinateur IBM Wat­son a été lan­cé pour « assis­ter » le méde­cin, il est pro­bable qu’en cas de désac­cord ce soit la machine qui tranche. 

L’HOMME REBUT DU ROBOT

Sys­té­ma­ti­que­ment infé­rieur, l’homme ne pour­rait tenir dans la socié­té qu’une place déclassée. 

Des cher­cheurs tra­vaillent en ce moment sur un robot huma­noïde char­gé de sus­ci­ter amour et empa­thie, envers les machines comme envers les humains. © MAKC76

Dans un entre­tien avec Daniel Kah­ne­man sur le site Edge, l’historien Yuval Noah Hara­ri, auteur de Sapiens et Homo deus, sou­ligne que si les États modernes, à com­men­cer par la Prusse au XIX^e siècle, ont mis en place des sys­tèmes mas­sifs d’éducation et de sécu­ri­té sociale, c’était bien parce qu’ils avaient besoin de bras dans les usines, et d’hommes aptes à la guerre. 

Dans un monde où les guerres se feront sans inter­ven­tion humaine, et où des robots tra­vaille­ront à notre place, y aura-t-il une moti­va­tion autre que phi­lan­thro­pique à assu­rer à cha­cun édu­ca­tion et san­té ? Et quelle édu­ca­tion choi­sir pour ses enfants dans un monde où ils ont peu de chances de tra­vailler et où il est impos­sible de savoir quels emplois exis­te­ront encore demain ? 

La réponse – un peu courte à notre sens – d’allouer un reve­nu uni­ver­sel aux per­sonnes ain­si pri­vées de tra­vail, ne semble prendre en compte que l’aspect maté­riel des choses. 

Quels liens uni­ront les hommes, quel sera le sens de la vie, quelle contri­bu­tion don­ner à la socié­té, dans un monde où les IA pour­ront nous rem­pla­cer dans n’importe quel domaine, y com­pris celui de l’empathie et des rela­tions humaines ? 

Des cher­cheurs tra­vaillent en ce moment sur un robot huma­noïde char­gé de sus­ci­ter amour et empa­thie, envers les machines comme envers les humains. 

LE POINT DE NON-RETOUR 

Le risque tech­no­lo­gique, enfin, s’il est sou­le­vé par un nombre régu­lier de pen­seurs et de scien­ti­fiques n’a tou­jours pas obte­nu de réponse claire. Com­ment être sûr que des tech­no­lo­gies par essence évo­lu­tives et qui par nature appren­dront à apprendre ne se com­por­te­ront pas un jour d’une façon auto­nome avec des buts et des objec­tifs contraires aux nôtres ? 

Ce thème cher à la science-fic­tion effraie des esprits tels que Ste­phen Haw­king ou Nick Bos­trom. Dans la Sili­con Val­ley cir­cule le mythe du « bou­ton rouge », une ultime cein­ture de sécu­ri­té qui nous per­met­trait de débran­cher les machines. 

Mais com­ment être sûr que l’IA ne nous empê­che­ra pas d’actionner ce méca­nisme ? Et que, d’ailleurs, nous aurons encore la volon­té de l’actionner ?

LA NÉCESSITÉ D’UN DÉBAT PUBLIC

On le voit, les consé­quences d’un déve­lop­pe­ment expo­nen­tiel de l’intelligence arti­fi­cielle sou­lèvent des ques­tions essen­tielles. Il semble donc capi­tal d’installer un débat démo­cra­tique qui abor­de­ra, avec trans­pa­rence et luci­di­té, toutes les consé­quences pour la société. 

Un temps de dia­logue, serein et construc­tif, pour infor­mer plei­ne­ment sur la révo­lu­tion en marche et ne pas se limi­ter aux seuls aspects économiques. 

---

Articles similaires :

L’apprentissage pro­fond entre mythes et réalités Orange met l’intelligence arti­fi­cielle au ser­vice de l’autonomie de ses clients pro­fes­sion­nels et de l’efficacité de ses collaborateurs L’Intelligence Arti­fi­cielle impac­te­ra for­te­ment l’industrie ! Hi ! PARIS : Faire rayon­ner la recherche fran­çaise en IA Le Data Office : pilier de la poli­tique IA et data dans la banque et l’assurance