La coopération humain-IA sur les bâtiments de combat

Défense : quelle coopération humain-IA sur les bâtiments de combat ?

Dossier : Intelligence artificielleMagazine N°781 Janvier 2023
Par Pierre Éric POMMELLET (X84)
Par Frédéric VIGNAL (X84)

L’intelligence arti­fi­cielle est déjà à l’œuvre à bord des bâti­ments de com­bat, mais son rôle va se dévelop­per con­sid­érable­ment et mod­i­fi­er les con­di­tions de tra­vail des équipages, tant à la mer qu’à terre. Il sera néces­saire que ce développe­ment se fasse avec et non con­tre les humains, dont le rôle restera essen­tiel dans l’action.

L’intelligence arti­fi­cielle répond à plusieurs enjeux clés pour les marines de com­bat. Elle four­nit notam­ment un effet de levi­er sur trois axes principaux.

Trois applications navales de l’IA

Elle per­met d’abord de dis­siper le « brouil­lard de la guerre » grâce à des capac­ités Intel­li­gence Sur­veil­lance Recon­nais­sance (ISR) aug­men­tées. La réponse tech­nologique au besoin de ren­seigne­ment con­siste à dévelop­per des cap­teurs capa­bles de col­lecter un max­i­mum de don­nées, mais surtout à les associ­er à des solu­tions d’intelligence arti­fi­cielle, à même d’exploiter cette masse crois­sante de don­nées. L’IA apporte ici ses fac­ultés de traite­ment pour struc­tur­er les don­nées col­lec­tées et en infér­er des règles tactiques.

L’IA per­met aus­si, à terme, de con­fér­er de la masse et une élon­ga­tion du ray­on d’action des forces navales grâce aux plate­formes autonomes. Par­mi ses champs d’application, l’intelligence arti­fi­cielle compte l’autonomie déci­sion­nelle. Les plate­formes autonomes (cf. le con­cept de manned – unmanned team de l’US Navy) appor­tent un com­plé­ment utile à moin­dre coût aux flottes occi­den­tales qui ont vu leur vol­ume diminuer.

Enfin, l’IA per­met d’accélérer la prise de déci­sion tac­tique grâce à la fusion de l’information intel­li­gente, à son inter­pré­ta­tion et à une présen­ta­tion de l’information per­ti­nente au prof­it du com­man­de­ment. La hausse dras­tique des don­nées manip­ulées fait courir le risque d’une sur­charge infor­ma­tion­nelle des équipes de quart. La sit­u­a­tion tac­tique peut devenir de moins en moins com­préhen­si­ble. L’IA judi­cieuse­ment dis­tribuée aux niveaux force navale, navires, sys­tèmes et équipements per­met de mit­iger ce foi­son­nement potentiel.


REPÈRES

« Don­nées, entraîne­ment, mod­èles, pré­dic­tions » sont qua­tre mots majeurs issus de la mise en œuvre de l’IA dans l’industrie. Il n’est pas sur­prenant que l’IA ait toute sa place à bord d’un bâti­ment de guerre, puisque ces qua­tre ter­mes reflè­tent aus­si le fonc­tion­nement type d’un équipage de com­bat. D’abord, les don­nées : le cycle de vie des bâti­ments de com­bat, en opéra­tions et en péri­ode de main­te­nance, engen­dre des flux très volu­mineux de don­nées traités, analysés, syn­thétisés et archivés par l’équipage. L’équipage s’entraîne à faire face à des sit­u­a­tions tou­jours plus com­plex­es et dis­parates. Ses mod­èles sont ses tac­tiques ou doc­trines d’emploi. La pré­dic­tion (du mou­ve­ment des pistes, des risques de détec­tion par les men­aces, des portées respec­tives des armes…) se définit comme l’activité inces­sante du cen­tral opéra­tions d’une fré­gate ou d’un sous-marin.


Le paradoxe de l’IA dans le naval militaire

Cepen­dant, quand l’IA embar­que sur un bâti­ment de guerre « aux côtés » de l’équipage, des ques­tions spé­ci­fiques se posent. Le but recher­ché de la plu­part des appli­ca­tions civiles de l’IA est de met­tre à dis­po­si­tion les sys­tèmes « les plus opti­misés pos­si­ble ». Le recours à des fonc­tions de sou­tien util­isa­teurs est très sou­vent envisagé.

Les appli­ca­tions navales, quant à elles, néces­si­tent pour l’équipage la maîtrise en tout temps et en tous lieux du mode d’opération des fonc­tions dotées d’IA. Elles requièrent égale­ment les agisse­ments maîtrisés des sys­tèmes « dro­nisés » mis en œuvre depuis le navire, au risque de les ren­dre légère­ment moins per­for­mants et moins autonomes en rai­son de la doc­trine à respecter. Le marin doit pou­voir à tout instant com­pren­dre la sit­u­a­tion et la maîtris­er avec un très faible préavis (avarie au com­bat, for­tune de mer, événe­ment météo, déci­sion poli­tique…), sans met­tre en dan­ger le col­lec­tif de l’équipage, ni obér­er la pour­suite de la mis­sion ou frag­ilis­er la stratégie d’ensemble.

Il y a donc un para­doxe de l’IA dans le naval mil­i­taire. L’IA embar­que au sein des sys­tèmes ou via les drones asso­ciés au navire, pour accroître sig­ni­fica­tive­ment les chances de suc­cès de la mis­sion. Elle est néces­saire­ment « sur­veil­lée » par un opéra­teur, local ou à dis­tance. L’action de cet opéra­teur peut être spo­radique, depuis un shel­ter ou à bord. Il doit véri­fi­er que l’autonomie, con­férée et ajustée dynamique­ment, reste dans le champ des pos­si­bles et n’altère pas la per­for­mance de l’ensemble hommes + navires + sys­tèmes + IA.

Des fonctionnalités opérationnelles, comme l’optimisation du routage des navires, bénéficient de l’IA embarquée.
Des fonc­tion­nal­ités opéra­tionnelles, comme l’optimisation du routage des navires, béné­fi­cient de l’IA embarquée.


Des solutions au-delà des capacités humaines

L’IA per­met de soulager les équipes de quart. Par con­séquent, elles se focalisent sur les tâch­es de plus haut niveau, gèrent l’inattendu et man­a­gent l’incertain. Par exem­ple, la prévi­sion avancée des mou­ve­ments de plate­forme est une brique tech­nologique essen­tielle pour les fré­gates. Elle per­met à l’équipage de « gag­n­er un état de mer » pour la mise en œuvre des héli­cop­tères. L’IA aug­mente les capac­ités de l’équipage et met à dis­po­si­tion du com­man­dant des solu­tions inen­vis­age­ables par l’homme dans un pas de temps raisonnable ou avec une fréquence de rafraîchisse­ment suff­isante (risque de sat­u­ra­tion des équipes).

Prenons un exem­ple : com­ment opti­miser de façon rationnelle la tra­jec­toire d’un sous-marin alors qu’il évolue dans un fais­ceau de men­aces mul­ti­ples et réelles, mal con­nues ou sup­posées ? Un sous-marin détecte la présence de men­aces (bâti­ments de sur­face, sous-marins, héli­cop­tères, drones…). Néan­moins, ces « brui­teurs » ne l’ont peut-être pas encore détec­té. L’IA plan­i­fie la meilleure tra­jec­toire avec pour objec­tif d’atteindre le plus rapi­de­ment pos­si­ble un point d’échappement du théâtre dan­gereux. Elle priv­ilégie les tra­jec­toires qui min­imisent le risque pour le sous-marin d’être con­tre-détec­té par les bruiteurs.

Dans ce cas, on passe d’une com­bi­nai­son de sig­naux opéra­tionnels mis à dis­po­si­tion par le sys­tème de com­bat, asso­ciée à l’intuition et l’expérience du com­man­dant, à l’exploration méthodique de mil­liers de pos­si­bil­ités tac­tiques recom­man­dant in fine la « meilleure » route. Il s’agit d’une approche sim­i­laire à celle que Deep Blue pre­nait dès 1997 pour vain­cre Gary Kasparov !


Des drones océaniques

Les bâti­ments de com­bat mod­ernes embar­quent déjà de nom­breuses fonc­tions automa­tisées pour réalis­er leurs mis­sions, notam­ment via les Com­bat Man­age­ment Sys­tems, les Inte­grat­ed Plat­form Man­age­ment Sys­tems ou les « logi­ciels mis­sions » des tor­pilles. Les pre­miers navires dotés d’une véri­ta­ble archi­tec­ture numérique sont en con­struc­tion avancée. Sur cette base, il est pos­si­ble de prédire un con­tin­u­um rapi­de d’évolutions fonc­tion­nelles et organ­i­sa­tion­nelles en par­tant de tels navires, pour con­cevoir in fine des drones océaniques de grande taille, véri­ta­bles navires sans équipage. Ils seront dotés d’une capac­ité déci­sion­nelle leur per­me­t­tant d’accompagner une force navale et de réalis­er, en pro­pre, des mis­sions autonomes avec un con­trôle par un sys­tème embar­qué indépen­dant, sous super­vi­sion humaine unique­ment (et non via une sim­ple téléopéra­tion), cette super­vi­sion n’étant pas néces­saire­ment en temps réel.

“L’IA établit un nouveau rapport entre le marin et les drones.”

Et lorsque le navire con­sid­éré au sein de la force navale n’embarque aucun humain à bord et doit faire preuve d’autonomie ? En mer, la téléopéra­tion n’est pas tou­jours la solu­tion la plus réal­iste au con­trôle d’un drone, quelle que soit sa taille. En effet, la mis­sion des véhicules sous-marins peut s’étaler sur plusieurs jours, com­prenant des pos­si­bil­ités d’agissement mul­ti­ples et des com­mu­ni­ca­tions sous-marines spo­radiques au débit lim­ité par les lois de la physique.

Il en est de même pour des mobiles de sur­face, puisqu’il n’est pas tou­jours garan­ti d’avoir une liai­son de com­mu­ni­ca­tion hertzi­enne de qual­ité suff­isante. De ce fait, l’IA établit un nou­veau rap­port entre le marin et les drones. L’humain a le priv­ilège de la plan­i­fi­ca­tion de la mis­sion et de la com­mu­ni­ca­tion aux drones du sens de cette mis­sion, soit la maîtrise de l’intentionnalité. De son côté, l’IA ajuste le com­porte­ment des drones voire des déci­sions qui leur sont déléguées afin de réalis­er au mieux la mis­sion con­fiée, soit l’adaptabilité. Dans les chaînes fonc­tion­nelles liant cap­teurs, traite­ments, moyens de com­mu­ni­ca­tion, action­neurs et charges utiles, l’IA embar­quée sur les drones choisit à tout moment les chaînes et les actions réal­isées par celles-ci. Elle a pour objec­tif de ten­dre le mieux pos­si­ble vers le sens de la mis­sion précitée.

Apprendre à faire confiance à l’IA

Ce nou­veau rap­port entre l’IA et l’opérateur, ou son com­man­de­ment, se con­stru­it dans la durée. Au-delà des biais intrin­sèques liés à l’IA, le pre­mier fac­teur clé de suc­cès dans l’intégration de l’IA est la com­préhen­sion et la lis­i­bil­ité par les marins des fonc­tions sous-traitées. La com­préhen­sion et la lis­i­bil­ité seront accrues par l’emploi sys­té­ma­tique de « jumeaux numériques » qui per­me­t­tent « d’entretenir l’estime », au sens de la nav­i­ga­tion, lorsque l’opérateur et le drone ne sont pas en con­tact, ou de dia­loguer avec l’équipage virtuel du drone lorsque le con­tact est établi.

La con­fi­ance néces­site cette lis­i­bil­ité préc­itée. La con­fi­ance n’excluant pas le con­trôle, le sec­ond fac­teur clé de suc­cès con­siste à encadr­er les agisse­ments du drone par un super­viseur embar­qué, fondé sur des règles sim­ples pro­gram­mées en tech­nolo­gies sûres. Il con­siste aus­si à robus­ti­fi­er la capac­ité pour l’équipage de repren­dre la main, quelles que soient les cir­con­stances. De telles fonc­tions ont déjà été validées à bord de torpilles.


Lire aus­si : Définir le cadre nor­matif d’une IA de con­fi­ance dans les entreprises


Cepen­dant, il n’est pas tou­jours aisé d’intégrer des réseaux de neu­rones dans les proces­sus de déci­sions des sys­tèmes navals embar­qués. D’abord, il est néces­saire de se dot­er d’infrastructures et d’un grand nom­bre de don­nées dûment « éti­quetées », utiles dans la pro­gres­sion des réseaux. Ensuite, cer­tains sys­tèmes comme la recon­nais­sance acous­tique ne sont pas testa­bles sans con­fronta­tion au monde mar­itime réel ou sans moyens de sim­u­la­tion qual­i­fiés représen­tat­ifs, de la même façon que pour l’apprentissage en deep learn­ing des algo­rithmes des véhicules ter­restres. Comme pour le véhicule ter­restre autonome, le proces­sus d’appropriation de l’IA par les équipages pren­dra du temps.

“Les équipages à la mer apprendront progressivement à faire confiance à l’IA”

Nous sommes con­va­in­cus que les équipages à la mer appren­dront pro­gres­sive­ment à faire con­fi­ance à l’IA, si tant est qu’ils auront été, très tôt et judi­cieuse­ment, asso­ciés à la con­cep­tion des navires et véhicules qui embar­quent ces tech­nolo­gies. Ce parte­nar­i­at bien conçu con­stitue réelle­ment l’un des devoirs pri­mor­diaux des indus­triels du secteur naval de défense dans le domaine de l’IA.

Au-delà des fonctionnalités opérationnelles, l’IA peut être utilisée dans le soutien en service ou au cours des périodes de maintenance.
Au-delà des fonc­tion­nal­ités opéra­tionnelles, l’IA peut être util­isée dans le sou­tien en ser­vice ou au cours des péri­odes de maintenance.

L’IA au profit du soutien

Au-delà des fonc­tion­nal­ités opéra­tionnelles, béné­fi­ciant de l’IA embar­quée (opti­mi­sa­tion de routage des navires, propo­si­tions de tra­jec­toires opéra­tionnelles pour le com­man­dant, opti­mi­sa­tion énergé­tique, analyse de sig­naux faibles cyber…), l’IA peut aus­si être util­isée dans d’autres phas­es du cycle de vie des bâti­ments de com­bat, telles que le sou­tien en ser­vice ou au cours des péri­odes de main­te­nance. Pen­dant les opéra­tions navales ou en main­te­nance, les don­nées générées en ser­vice nour­ris­sent des algo­rithmes per­me­t­tant de réduire les coûts du sou­tien et d’espacer les plages de maintenance.

La mutu­al­i­sa­tion raison­née des data entre le con­cep­teur-con­struc­teur-main­teneur, les équipemen­tiers et l’exploitant (de bâti­ments de com­bat, de drones, de force navale), dans le cadre de pro­to­coles d’emploi agréés avec l’État, représente un fac­teur essen­tiel de suc­cès sup­plé­men­taire. Le partage des rôles entre les automa­tismes de recon­fig­u­ra­tion des sys­tèmes, d’une part, et d’autre part la main­te­nance de niveau 1 effec­tuée par l’équipage se trou­ve ain­si sen­si­ble­ment mod­i­fié par l’IA.

Pour la main­te­nance à bord, l’IA rend ain­si acces­si­ble les con­cepts d’autoconfiguration, d’autoprotection, d’autodiagnostic et d’autoguérison. Pour la main­te­nance à terre, il est aujourd’hui pos­si­ble, depuis un « por­tail des don­nées et des ser­vices numériques », d’offrir une aide à la plan­i­fi­ca­tion des main­te­nances d’un navire, à la visu­al­i­sa­tion des événe­ments par équipement et à l’optimisation de la ges­tion du stock de pièces de rechange et du parc d’outillage.

De nouveaux métiers

Côté métiers, des évo­lu­tions sont per­cep­ti­bles grâce au développe­ment de cette tech­nolo­gie au prof­it des indus­triels et des opéra­tionnels. Si l’on écarte les con­sid­éra­tions fon­da­men­tales de dimen­sion­nement des équipages, le « rondi­er » assisté par l’IA ne réalis­era plus les mêmes tâch­es à l’avenir (ex. : la dis­po­si­tion de cir­cuits). Il en sera de même pour l’opérateur sonar qui devait à l’œil nu extraire « du sig­nal utile » au sein de la myr­i­ade de pix­els d’un LOFAR (LOw Fre­quen­cy ARray). L’IA per­met la créa­tion de nou­veaux métiers dans le naval de défense, comme celui de pilote ou super­viseur de drones, d’essaims de drones océaniques, à terre ou en mer, sur une ou plusieurs plate­formes de la force navale.

“L’IA a déjà embarqué à bord des bâtiments de combat !”

Chez les indus­triels, les nou­veaux métiers con­nec­tés à l’IA sont liés aux don­nées essen­tielles pour ali­menter et entraîn­er les intel­li­gences arti­fi­cielles. Aux côtés des experts déjà con­nus que sont les data sci­en­tists et data ana­lystes, les data archi­tectes et data engi­neers se dévelop­pent. En effet, chaque méti­er et chaque spé­cial­ité ont pour voca­tion d’intégrer l’IA comme l’un de leurs out­ils à part entière. Ain­si, pour le naval, les con­cep­teurs et opéra­teurs de plate­formes d’intégration hybride (mêlant archi­tec­tures physiques, ému­la­teurs et IA) pren­nent leur essor. Les con­cep­teurs de jumeaux numériques sont de plus en plus sol­lic­ités. En pro­duc­tion, le partage des rôles entre l’opérateur et ses out­il­lages se mod­i­fie via l’IA, que ce soit pour faciliter le con­trôle non destruc­tif de procédés spé­ci­aux (tels que le soudage) ou pour numéris­er l’exploitation des faits tech­niques au sein d’une série de navires, via le traite­ment automa­tisé du lan­gage naturel.

Une coopération humain-IA

À bord, l’IA est appelée à jouer un rôle de catal­y­seur, appor­tant un dis­cerne­ment numérique accru pour aug­menter la con­fi­ance de l’équipage util­isa­teur. Ce sont aux indus­triels du naval (Naval Group, Thales, Safran, Tech­ni­cAtome, ECA…) de con­solid­er le cer­cle vertueux automa­ti­sa­tion-con­fi­ance. Le rôle des humains (équipages, indus­triels) restera majeur dans le choix d’utiliser, ou non, l’IA au sein des navires et des drones. Il sera facil­ité par la capac­ité d’allouer dynamique­ment l’autonomie déléguée à l’IA (à bord d’un navire ou d’un drone), pour attein­dre le juste néces­saire en ter­mes de per­for­mance opéra­tionnelle, en fonc­tion du con­texte et de la mis­sion assignée. D’ici fin 2022, un sous-marin nucléaire d’attaque (SNA) embar­quera des fonc­tions avancées d’optimisation de tra­jec­toires. Le porte-avions Charles-de-Gaulle dis­pose déjà de fonc­tions d’identification-classification à base d’IA. L’IA a déjà embar­qué à bord des bâti­ments de combat !


En illus­tra­tion : L’IA ajuste le com­porte­ment des drones voire des déci­sions qui leur sont déléguées afin de réalis­er au mieux la mis­sion con­fiée. © Naval Group

Poster un commentaire