HAL 9000 l'ordinateur de 2001 l'Odyssée de l'espace

Cybersécurité : et si les machines mettaient les humains en quarantaine ?

Dossier : EditorialMagazine N°753 Mars 2020
Par Robert RANQUET (72)

On le sait : l’Humain est souvent l’élément le plus vulnérable dans nos systèmes informatiques, et sinon la cible, du moins le chaînon faible exploité fréquemment par les tentatives d’intrusion. C’est la clé USB publicitaire rapportée du dernier colloque auquel on a participé et qu’on branche sur son PC juste pour « voir ce qu’il y a dedans » ; c’est le message anodin dont on ouvre sans méfiance la pièce jointe, etc., et la brèche est ouverte, par où seront inoculés tous les malwares et autres rançongiciels.

Mais les stratégies pour y parer sont possibles, et notre dossier de ce mois vous en fera découvrir certaines. Me plaît particulièrement l’idée que le combat contre les programmes malveillants qui sommeillent ou au contraire s’activent dans les mémoires de nos systèmes devrait désormais être confié à des intelligences artificielles – décidément très en vogue – qui auront seules la rapidité, l’attention, la patience, la réactivité… nécessaires pour lutter à armes égales contre les intrus. Tout comme l’agent Smith et ses clones dans Matrix, qui patrouillent dans les entrailles de la machine pour y débusquer les intrus (qui sont pour cette fois les gentils de l’histoire), qui sont eux-mêmes des cyber-créatures, nous irions donc vers un monde où le cybercombat se livrera entre IA spécialisées. Mais, si elles sont vraiment performantes, combien de temps faudra-t-il à ces IA cyber­guerrières pour réaliser qu’il est urgent, pour assurer au mieux leur mission, d’exclure les humains du jeu et de leur interdire l’accès aux systèmes ? Cela ne se fera peut-être pas de manière aussi radicale que celle utilisée par HAL 9000, l’ordinateur de 2001 : l’odyssée de l’espace pour se débarrasser de son équipage jugé peu fiable, mais tout aussi efficace. Verra-t-on nos machines créer entre elles leur propre terrain de jeu, dont nous serions exclus, mis en quelque sorte en quarantaine, une sorte de blacknet isolé des humains, comme il existe un darknet où seuls s’aventurent les cybercriminels de tout poil ? Mais au fait, peut-être est-ce déjà le cas ? Après tout on a vu, lors du crash financier de 2008, alors que l’IA était encore balbutiante, comment des machines à qui on avait conféré une large autonomie de décision financière, dialoguant entre elles et suivant leurs logiques prédatrices, pouvaient nous faire basculer dans un jeu économiquement mortifère.

Mais mauvaise science-fiction que tout cela, me dira-t-on ! Oui, bien sûr…
Enfin, on l’espère !

 

“L’Humain est souvent l’élément
le plus vulnérable dans nos systèmes
informatiques.”
La cybersécurité vue par Gabs
La cybersécurité vue par Gabs

Poster un commentaire