IA, le risque d’une humanité diminuée

À l’an­nonce du dossier sur l’in­tel­li­gence arti­fi­cielle, Cédric SAUVIAT, par ailleurs créa­teur de l’Asso­ci­a­tion française con­tre l’IA, a voulu faire con­naître son point de vue. Il est impératif d’avoir un débat pub­lic pour dis­cuter du dan­ger poten­tiel et surtout éviter que ce soit un mag­nifique out­il de dom­i­na­tion des mass­es par les puissants. 

L’intel­li­gence arti­fi­cielle (ou IA) c’est « tout ce que l’ordinateur ne sait pas encore faire ». Cette déf­i­ni­tion en forme de boutade, qui cir­cule par­mi les infor­mati­ciens, résume bien le car­ac­tère pro­téi­forme et évo­lu­tif d’une tech­nolo­gie qui cristallise aujourd’hui les utopies et les espoirs. 

C’est juste­ment parce qu’on ne sait pas ce que l’IA pour­ra faire dans un avenir plus ou moins loin­tain que le débat sur ses impli­ca­tions à la fois éthiques, sociales, économiques et anthro­pologiques se révèle pas­sion­nant et indispensable. 

Il n’est pas ques­tion ici de con­tester la dimen­sion révo­lu­tion­naire de l’IA, son influ­ence con­sid­érable et indé­ni­able sur les dif­férentes dimen­sions de nos exis­tences (vie pra­tique, pro­fes­sion­nelle, san­té…) mais au con­traire d’en saisir toute la portée, d’aller plus loin que les titres actuels des mag­a­zines, lesquels bal­an­cent entre tech­no-idol­âtrie sans grande per­ti­nence (Le Point a com­paré Mark Zucker­berg et Ray Kurzweil à Aris­tote et Pla­ton…) et alarmisme sou­vent peu constructif. 

AI IS WATCHING YOU

Dans son remar­quable ouvrage La Sil­i­coloni­sa­tion du monde, le philosophe Éric Sadin décrit nos sociétés mar­quées par l’explosion des inter­faces dig­i­tales dans tous les domaines de la vie quotidienne. 

Avec les chat­bots, il sera plus facile d’interagir avec un algo­rithme dont les répons­es ont été soigneuse­ment cal­i­brées pour nous plaire, qu’avec un être humain. © MAKC76

Nos faits et gestes sont ain­si recueil­lis et stock­és. Ils four­nissent une matière pré­cieuse aux algo­rithmes des géants du numérique. Cette récolte de don­nées et les analy­ses qui en découlent per­me­t­tent la créa­tion de ser­vices per­for­mants dont nous n’observons encore que les prémices. 

Ce phénomène devrait en effet s’accentuer avec l’irruption annon­cée des objets con­nec­tés ain­si que des assis­tants per­son­nels, dont Siri ou Echo ne sont que des pré­fig­u­ra­tions. Iden­ti­fié, enreg­istré, cha­cun de nous se ver­ra ain­si accom­pa­g­né dans son quo­ti­di­en grâce à des sug­ges­tions per­son­nal­isées et de plus en plus précises. 

Avec quelles con­séquences sur notre liber­té de choix, et notre capac­ité à pren­dre des décisions ? 

Capa­bles de gér­er des prob­lèmes de plus en plus com­plex­es, et nous offrant une assis­tance tou­jours meilleure, les machines régleront de plus en plus de prob­lèmes à notre place, enta­mant, par une suc­ces­sion de petits pro­grès, notre autonomie, notre libre arbitre. 

DIVERTIS ET PLEINS DE MISÈRE

Aujourd’hui, l’écran est devenu un réflexe. Nous sommes de moins en moins capa­bles de men­er une con­ver­sa­tion avec un ami, sans nous pencher toutes les cinq min­utes vers notre smart­phone. Dans Con­tact, le penseur Matthew Craw­ford s’inquiète des effets per­vers de la détéri­o­ra­tion de notre capac­ité d’attention.

Sans cesse diver­tis, surtout si des cap­teurs sig­na­lent que notre niveau d’attention baisse, sans cesse guidés, ne per­drons-nous pas juste­ment ce con­tact avec le réel, dont les aspérités et l’imprédictibilité sont à la base de l’expérience humaine. 

ENTRETIEN AVEC UN ROBOT

Si nous risquons de per­dre tout con­tact avec le réel, ce sera pire avec les autres. L’anthropologue Sher­ry Turkle a décrit, dans Seuls ensem­ble, notre ten­dance à anthro­po­mor­phis­er notre rela­tion avec tout objet qui nous paraî­trait vivant et doué de con­science (et ce, même si nous savons que ce n’est pas le cas). 

De sur­croît, à lui préfér­er sa com­pag­nie plutôt que celle des êtres humains. Un arti­cle paru récem­ment dans The Atlantic a sus­cité un réel débat dans l’univers de la Sil­i­con Val­ley : le taux d’accidents vio­lents et de grossess­es non désirées a forte­ment bais­sé chez les ado­les­cents améri­cains, en revanche leur taux de sui­cide a augmenté. 

La rai­son ? Ils ne fréquentent presque plus leurs con­génères que par le biais des réseaux soci­aux. La vague qui entoure les chat­bots – la nou­velle tech­nolo­gie de sim­u­la­tion de dia­logue – si elle témoigne bien sûr d’un effet de mode, signe égale­ment une ten­dance plus pro­fonde : à savoir qu’il sera plus facile d’interagir avec un algo­rithme dont les répons­es ont été soigneuse­ment cal­i­brées pour nous plaire, qu’avec un être humain. 

L’HOMME REMPLACÉ

Au lieu de can­ton­ner les machines dans des domaines où elles peu­vent sup­pléer l’homme (per­son­ne ne con­testera qu’il vaille mieux laiss­er à un algo­rithme le cal­cul de la tra­jec­toire d’un satel­lite), les pro­fes­sion­nels de l’IA cherchent au con­traire à l’immiscer dans tous les domaines de la vie humaine, en par­tant d’un pré­sup­posé jamais énon­cé : si la machine peut faire quelque chose à la place de l’homme, elle le fera mieux. 

C’est donc une com­para­i­son con­stante avec la machine que subit l’homme, ce qui ne manque pas de le plac­er en sit­u­a­tion d’infériorité. Si, par exem­ple, l’ordinateur IBM Wat­son a été lancé pour « assis­ter » le médecin, il est prob­a­ble qu’en cas de désac­cord ce soit la machine qui tranche. 

L’HOMME REBUT DU ROBOT

Sys­té­ma­tique­ment inférieur, l’homme ne pour­rait tenir dans la société qu’une place déclassée. 

Des chercheurs tra­vail­lent en ce moment sur un robot humanoïde chargé de sus­citer amour et empathie, envers les machines comme envers les humains. © MAKC76

Dans un entre­tien avec Daniel Kah­ne­man sur le site Edge, l’historien Yuval Noah Harari, auteur de Sapi­ens et Homo deus, souligne que si les États mod­ernes, à com­mencer par la Prusse au XIX^e siè­cle, ont mis en place des sys­tèmes mas­sifs d’éducation et de sécu­rité sociale, c’était bien parce qu’ils avaient besoin de bras dans les usines, et d’hommes aptes à la guerre. 

Dans un monde où les guer­res se fer­ont sans inter­ven­tion humaine, et où des robots tra­vailleront à notre place, y aura-t-il une moti­va­tion autre que phil­an­thropique à assur­er à cha­cun édu­ca­tion et san­té ? Et quelle édu­ca­tion choisir pour ses enfants dans un monde où ils ont peu de chances de tra­vailler et où il est impos­si­ble de savoir quels emplois exis­teront encore demain ? 

La réponse – un peu courte à notre sens – d’allouer un revenu uni­versel aux per­son­nes ain­si privées de tra­vail, ne sem­ble pren­dre en compte que l’aspect matériel des choses. 

Quels liens uniront les hommes, quel sera le sens de la vie, quelle con­tri­bu­tion don­ner à la société, dans un monde où les IA pour­ront nous rem­plac­er dans n’importe quel domaine, y com­pris celui de l’empathie et des rela­tions humaines ? 

Des chercheurs tra­vail­lent en ce moment sur un robot humanoïde chargé de sus­citer amour et empathie, envers les machines comme envers les humains. 

LE POINT DE NON-RETOUR 

Le risque tech­nologique, enfin, s’il est soulevé par un nom­bre réguli­er de penseurs et de sci­en­tifiques n’a tou­jours pas obtenu de réponse claire. Com­ment être sûr que des tech­nolo­gies par essence évo­lu­tives et qui par nature appren­dront à appren­dre ne se com­porteront pas un jour d’une façon autonome avec des buts et des objec­tifs con­traires aux nôtres ? 

Ce thème cher à la sci­ence-fic­tion effraie des esprits tels que Stephen Hawk­ing ou Nick Bostrom. Dans la Sil­i­con Val­ley cir­cule le mythe du « bou­ton rouge », une ultime cein­ture de sécu­rité qui nous per­me­t­trait de débranch­er les machines. 

Mais com­ment être sûr que l’IA ne nous empêchera pas d’actionner ce mécan­isme ? Et que, d’ailleurs, nous aurons encore la volon­té de l’actionner ?

LA NÉCESSITÉ D’UN DÉBAT PUBLIC

On le voit, les con­séquences d’un développe­ment expo­nen­tiel de l’intelligence arti­fi­cielle soulèvent des ques­tions essen­tielles. Il sem­ble donc cap­i­tal d’installer un débat démoc­ra­tique qui abor­dera, avec trans­parence et lucid­ité, toutes les con­séquences pour la société. 

Un temps de dia­logue, sere­in et con­struc­tif, pour informer pleine­ment sur la révo­lu­tion en marche et ne pas se lim­iter aux seuls aspects économiques. 

---

Articles similaires :

L’urgente néces­sité d’une réap­pro­pri­a­tion publique de la régu­la­tion de l’IA L’intelligence arti­fi­cielle au ser­vice du traite­ment des images “ Notre ambi­tion est devenir le N°1 mon­di­al de l’intelligence arti­fi­cielle dans la rela­tion client ” Vision arti­fi­cielle, entre­tien avec un chercheur “Les don­nées générées par les entre­pris­es sont une mine d’or” Intel­li­gence arti­fi­cielle et cyber­sécu­rité : une réal­ité dès aujourd’hui