Magazine N°733 Mars 2018 - Expressions
  • Dernier magazine (735)
  • Magazine de l'article (733)

Marie DAVID (96)

Responsable de projets data analytics chez BNP Paribas

Cédric SAUVIAT (92)

Ingénieur des Ponts, entrepreneur

Articles du Dossier

Par Pierre AVENAS (65)
Par Jacques DENANTES (49)
et Daniel BLOCH
Par Cédric SAUVIAT (92)
et Marie DAVID (96)
Par Martin PERRIN (07)
et Anne-Flore PERRIN (07)
Par Michel BIGNON (34) et Philippe LABAT (73) et réponse d'Antoine HUART (07)
Par Martin QUINN
et Léo ISAAC-DOGNIN
et Aude GÉRY
et Hugo ZYLBERBERG (10)

IA, le risque d'une humanité diminuée

Porteuse d’espoir et progrès, l’intelligence artificielle pose également des questions philosophiques et sociales déterminantes. Des dimensions à ne pas négliger pour mener une réflexion complète, lucide et utile à l’ensemble des acteurs de cette révolution.

L’intelligence artificielle (ou IA) c’est « tout ce que l’ordinateur ne sait pas encore faire ». Cette définition en forme de boutade, qui circule parmi les informaticiens, résume bien le caractère protéiforme et évolutif d’une technologie qui cristallise aujourd’hui les utopies et les espoirs.

C’est justement parce qu’on ne sait pas ce que l’IA pourra faire dans un avenir plus ou moins lointain que le débat sur ses implications à la fois éthiques, sociales, économiques et anthropologiques se révèle passionnant et indispensable.

Il n’est pas question ici de contester la dimension révolutionnaire de l’IA, son influence considérable et indéniable sur les différentes dimensions de nos existences (vie pratique, professionnelle, santé…) mais au contraire d’en saisir toute la portée, d’aller plus loin que les titres actuels des magazines, lesquels balancent entre techno-idolâtrie sans grande pertinence (Le Point a comparé Mark Zuckerberg et Ray Kurzweil à Aristote et Platon…) et alarmisme souvent peu constructif.

AI IS WATCHING YOU

Dans son remarquable ouvrage La Silicolonisation du monde, le philosophe Éric Sadin décrit nos sociétés marquées par l’explosion des interfaces digitales dans tous les domaines de la vie quotidienne.

Chabots sur smartphone
Avec les chatbots, il sera plus facile d’interagir avec un algorithme dont les réponses ont été soigneusement calibrées pour nous plaire, qu’avec un être humain.  © MAKC76

Nos faits et gestes sont ainsi recueillis et stockés. Ils fournissent une matière précieuse aux algorithmes des géants du numérique. Cette récolte de données et les analyses qui en découlent permettent la création de services performants dont nous n’observons encore que les prémices.

Ce phénomène devrait en effet s’accentuer avec l’irruption annoncée des objets connectés ainsi que des assistants personnels, dont Siri ou Echo ne sont que des préfigurations. Identifié, enregistré, chacun de nous se verra ainsi accompagné dans son quotidien grâce à des suggestions personnalisées et de plus en plus précises.

Avec quelles conséquences sur notre liberté de choix, et notre capacité à prendre des décisions ?

Capables de gérer des problèmes de plus en plus complexes, et nous offrant une assistance toujours meilleure, les machines régleront de plus en plus de problèmes à notre place, entamant, par une succession de petits progrès, notre autonomie, notre libre arbitre.

DIVERTIS ET PLEINS DE MISÈRE

Aujourd’hui, l’écran est devenu un réflexe. Nous sommes de moins en moins capables de mener une conversation avec un ami, sans nous pencher toutes les cinq minutes vers notre smartphone. Dans Contact, le penseur Matthew Crawford s’inquiète des effets pervers de la détérioration de notre capacité d’attention.

Sans cesse divertis, surtout si des capteurs signalent que notre niveau d’attention baisse, sans cesse guidés, ne perdrons-nous pas justement ce contact avec le réel, dont les aspérités et l’imprédictibilité sont à la base de l’expérience humaine.

ENTRETIEN AVEC UN ROBOT

Si nous risquons de perdre tout contact avec le réel, ce sera pire avec les autres. L’anthropologue Sherry Turkle a décrit, dans Seuls ensemble, notre tendance à anthropomorphiser notre relation avec tout objet qui nous paraîtrait vivant et doué de conscience (et ce, même si nous savons que ce n’est pas le cas).

De surcroît, à lui préférer sa compagnie plutôt que celle des êtres humains. Un article paru récemment dans The Atlantic a suscité un réel débat dans l’univers de la Silicon Valley : le taux d’accidents violents et de grossesses non désirées a fortement baissé chez les adolescents américains, en revanche leur taux de suicide a augmenté.

La raison ? Ils ne fréquentent presque plus leurs congénères que par le biais des réseaux sociaux. La vague qui entoure les chatbots – la nouvelle technologie de simulation de dialogue – si elle témoigne bien sûr d’un effet de mode, signe également une tendance plus profonde : à savoir qu’il sera plus facile d’interagir avec un algorithme dont les réponses ont été soigneusement calibrées pour nous plaire, qu’avec un être humain.

L’HOMME REMPLACÉ

Au lieu de cantonner les machines dans des domaines où elles peuvent suppléer l’homme (personne ne contestera qu’il vaille mieux laisser à un algorithme le calcul de la trajectoire d’un satellite), les professionnels de l’IA cherchent au contraire à l’immiscer dans tous les domaines de la vie humaine, en partant d’un présupposé jamais énoncé : si la machine peut faire quelque chose à la place de l’homme, elle le fera mieux.

C’est donc une comparaison constante avec la machine que subit l’homme, ce qui ne manque pas de le placer en situation d’infériorité. Si, par exemple, l’ordinateur IBM Watson a été lancé pour « assister » le médecin, il est probable qu’en cas de désaccord ce soit la machine qui tranche.

L’HOMME REBUT DU ROBOT

Systématiquement inférieur, l’homme ne pourrait tenir dans la société qu’une place déclassée.

Un robot amoureux ?
Des chercheurs travaillent en ce moment sur un robot humanoïde chargé de susciter amour et empathie, envers les machines comme envers les humains. © MAKC76

Dans un entretien avec Daniel Kahneman sur le site Edge, l’historien Yuval Noah Harari, auteur de Sapiens et Homo deus, souligne que si les États modernes, à commencer par la Prusse au XIXe siècle, ont mis en place des systèmes massifs d’éducation et de sécurité sociale, c’était bien parce qu’ils avaient besoin de bras dans les usines, et d’hommes aptes à la guerre.

Dans un monde où les guerres se feront sans intervention humaine, et où des robots travailleront à notre place, y aura-t-il une motivation autre que philanthropique à assurer à chacun éducation et santé ? Et quelle éducation choisir pour ses enfants dans un monde où ils ont peu de chances de travailler et où il est impossible de savoir quels emplois existeront encore demain ?

La réponse – un peu courte à notre sens – d’allouer un revenu universel aux personnes ainsi privées de travail, ne semble prendre en compte que l’aspect matériel des choses.

Quels liens uniront les hommes, quel sera le sens de la vie, quelle contribution donner à la société, dans un monde où les IA pourront nous remplacer dans n’importe quel domaine, y compris celui de l’empathie et des relations humaines ?

Des chercheurs travaillent en ce moment sur un robot humanoïde chargé de susciter amour et empathie, envers les machines comme envers les humains.

LE POINT DE NON-RETOUR 

Le risque technologique, enfin, s’il est soulevé par un nombre régulier de penseurs et de scientifiques n’a toujours pas obtenu de réponse claire. Comment être sûr que des technologies par essence évolutives et qui par nature apprendront à apprendre ne se comporteront pas un jour d’une façon autonome avec des buts et des objectifs contraires aux nôtres ?

Ce thème cher à la science-fiction effraie des esprits tels que Stephen Hawking ou Nick Bostrom. Dans la Silicon Valley circule le mythe du « bouton rouge », une ultime ceinture de sécurité qui nous permettrait de débrancher les machines.

Mais comment être sûr que l’IA ne nous empêchera pas d’actionner ce mécanisme ? Et que, d’ailleurs, nous aurons encore la volonté de l’actionner ?

LA NÉCESSITÉ D’UN DÉBAT PUBLIC

On le voit, les conséquences d’un développement exponentiel de l’intelligence artificielle soulèvent des questions essentielles. Il semble donc capital d’installer un débat démocratique qui abordera, avec transparence et lucidité, toutes les conséquences pour la société.

Un temps de dialogue, serein et constructif, pour informer pleinement sur la révolution en marche et ne pas se limiter aux seuls aspects économiques.

BIBLIOGRAPHIE

  • Éric Sadin, La Silicolonisation du monde, 2016, Éditions L’échappée.
  • Matthew B. Crawford, Contact, pourquoi nous avons perdu le monde, et comment le retrouver, 2016, Éditions La Découverte.
  • Sherry Turkle, Seuls ensemble, 2015, Éditions L’échappée.
  • Have smartphones destroyed a generation? The Atlantic, septembre 2017.
  • Death is optional, a conversation with Yuval Noah Harari and Daniel Kahneman, Edge.
  • Le papier de recherche sur l’empathie des robots est disponible sur le site ArXiv.org ou directement en pdf
  • Nick Bostrom, Superintelligence, paths, dangers, strategies, 2014, Oxford University Press.

Commentaires

Les camarades David et Sauviat lancent un cri d'alarme au sujet de l'IA dans un numéro de la revue qui, globalement, est plutôt favorable à l'IA.

David et Sauviat montrent, avec raison, tous les dangers que courre l'humanité et encore plus l'humanisme avec un développement exponentiel de cette technologie.Ils ne parlent pas du transhumanisme, mais en fait cette illusion fascinante tourne beaucoup de têtes, y compris celle des polytechniciens considérés en général comme des personnes ayant plutôt la tête bien faite.

Ces enthousiastes oublient simplement une chose: les limites physiques de la planète. L'épanouissement du transhumanisme est impossible dans les conditions actuelles, du fait précisément de ces limites physiques: plus assez de pétrole, plus assez de terres rares, plus assez de nourriture, plus assez de ... tout. Il y a bien sûr une possibilité pour ne pas se heurter à ces limites physiques, c'est de restreindre drastiquement le nombre d'habitants de la planète.

Les pauvres ne consomment pas beaucoup, mais ils sont nombreux, alors en éliminant la quasi totalité des personnes qui ne servent pas directement ou indirectement le projet fou des transhumanistes (pour fixer les idées, en ordre de grandeur, passer rapidement de 7,5 milliards d'habitants à environ 2 milliards, dont 10% de maîtres, 20% d'auxiliaires et 70% d'esclaves), le projet est physiquement possible.

Qui est prêt à souscrire un tel projet? J'espère que personne!!!
Alors le transhumanisme ne réalisera pas on projet, l'IA (un élément du transhumanisme) ne se développera pas .
Ouf!

Ajouter un commentaire

Publication des commentaires

La publication des commentaires est modérée, principalement pour éviter des offres commerciales inadaptées.
Cela est exécuté une ou deux fois par jour.

Depuis un certain temps,les fiches des auteurs (cliquer sur la photo)comportent un lien sur leur fiche LinkedIn. Cela permet de contacter les auteurs sans que nous ayons à publier leur adresse. Dans le cas de cette utilisation veuillez bien préciser les références de l'article commenté.

Actualités

La page Facebook de la JR

.