LightOn : la révolution des grands modèles de langage

Si l’intelligence arti­fi­cielle rel­e­vait hier de la sci­ence-fic­tion, c’est aujourd’hui une réal­ité qui est en train de révo­lu­tion­ner tous les métiers, y com­pris les plus créat­ifs. C’est juste­ment cette mis­sion que s’est don­née LightOn, une jeune pousse française, qui ambi­tionne d’aider les entre­pris­es français­es et européennes à exploiter tout le poten­tiel des derniers pro­grès en intel­li­gence arti­fi­cielle. Lau­rent Daudet, Directeur Général et cofon­da­teur de LightOn nous en dit plus.

Quelle a été la genèse de LightOn ? 

Au cours des quelques dernières années, le développe­ment et le déploiement de l’intelligence arti­fi­cielle se sont forte­ment accélérés, notam­ment aux États-Unis et en Chine. Pour soutenir de manière durable cette crois­sance, un ensem­ble de nou­velles tech­nolo­gies sont néces­saires. LightOn a vu le jour en 2016 avec pour pro­jet d’anticiper les out­ils de l’intelligence arti­fi­cielle de nou­velle génération. 

À l’origine de cette aven­ture entre­pre­neuri­ale, on retrou­ve une équipe pluridis­ci­plinaire com­posée d’Igor Car­ron, avec qui je codirige LightOn et qui a coor­don­né de nom­breux pro­jets dans le domaine de l’ingénierie aux États-Unis ; Flo­rent Krza­kala, pro­fesseur à l’École Poly­tech­nique Fédérale de Lau­sanne ; Syl­vain Gigan (X97), chercheur en pho­tonique ; et moi-même qui étais pro­fesseur de physique à l’Université Paris Cité. Nous avons tout d’abord tra­vail­lé sur la mise au point d’un coprocesseur pho­tonique, mais pro­gres­sive­ment, nous avons éten­du notre activ­ité au volet logi­ciel, qui est main­tenant au cœur de notre activité. 

LightOn est basée dans le cen­tre de Paris et dis­pose aujourd’hui d’une équipe d’une ving­taine de personnes. 

Comment résumeriez-vous votre positionnement ? 

Depuis 2 ans, nous avons fait le choix de nous con­cen­tr­er sur les « Grands Mod­èles de Lan­gage », ces méga-mod­èles d’intelligence arti­fi­cielle à plusieurs dizaines de mil­liards de paramètres, entraînés sur des cor­pus colos­saux de texte. À côté des GAFAM, nous faisons par­tie de la poignée de start-up qui dévelop­pent ces tech­nolo­gies de pointe, la plus con­nue étant Ope­nAI à qui on doit GPT‑3 ou ChatGPT. 

Ces mod­èles sont en train de révo­lu­tion­ner la façon dont nous tra­vail­lons au quo­ti­di­en, dans l’ensemble de ce que l’on appelle le « tra­vail en col blanc » : le méti­er des ana­lystes financiers, des pro­gram­meurs, des ban­quiers, des experts du mar­ket­ing dig­i­tal, des rédac­teurs, des juristes, et même des dirigeants… Au sein d’une entre­prise, ces pro­fils, dans le cadre de leurs fonc­tions au quo­ti­di­en reçoivent et rédi­gent des e‑mails ; analy­sent des mémos ; con­soli­dent et con­densent des don­nées divers­es ; pré­par­ent des présen­ta­tions, des rap­ports, des doc­u­ments ; écrivent du code infor­ma­tique ; font de la veille ou des recherch­es sur le net. L’intelligence arti­fi­cielle peut nous assis­ter dans toutes ces tâch­es très chronophages qui ont en com­mun d’être à base de texte, et dont une grande par­tie est en fait à faible valeur ajoutée. Dans de nom­breux cas d’usages con­crets, nous mon­trons que l’on fait gag­n­er un temps con­sid­érable aux util­isa­teurs qui peu­vent donc, en retour, se con­cen­tr­er sur des tâch­es à plus forte valeur ajoutée. 

Con­crète­ment, LightOn développe et com­mer­cialise ses pro­pres mod­èles, par­mi les plus puis­sants du marché, très poly­va­lents, avec des capac­ités d’analyse, d’écriture, de raison­nement et de planification. 

Pouvez-vous nous donner des cas d’usages et des exemples concrets ? 

Grâce à ces grands mod­èles de lan­gage, il est très facile d’automatiser des tâch­es cog­ni­tives et d’augmenter l’humain sur un large pan­el de tâch­es. À titre de pre­mier exem­ple, nous tra­vail­lons actuelle­ment avec une chaîne de télévi­sion qui utilise notre intel­li­gence arti­fi­cielle pour l’aide à la rédac­tion de descrip­tifs de pro­grammes. Les pro­duc­teurs de con­tenu audio­vi­suel, par exem­ple de doc­u­men­taires, ne four­nissent pas tou­jours des descrip­tifs dans un for­mat adap­té à chaque sup­port de dif­fu­sion, par exem­ple pour le vision­nage via le site web, pour lequel il faut un texte d’une dizaine de lignes des­tiné à don­ner envie aux inter­nautes de regarder le programme.

Des rédac­teurs spé­cial­isés devaient jusque-là vision­ner ces con­tenus, puis écrire ce descrip­tif. Notre intel­li­gence arti­fi­cielle automa­tise cette tâche : elle analyse la voix off du pro­gramme, en extrait les points clés, à par­tir desquels elle rédi­ge un descrip­tif au bon for­mat que le rédac­teur n’a qu’à valid­er ou amender. Pour la chaîne de télévi­sion c’est un gain de temps énorme, avec qua­si-instan­ta­né­ment un cat­a­logue de pro­grammes présen­té de façon homogène. Pour un autre de nos clients, dans le domaine de l’éducation, nous avons adap­té notre intel­li­gence arti­fi­cielle pour l’évaluation de niveau de langue. Un can­di­dat écrit quelques lignes ou prononce quelques phras­es dans une langue étrangère : l’intelligence arti­fi­cielle est en mesure de déter­min­er le niveau d’expression écrite ou orale de cette per­son­ne dans cette langue. Ces deux appli­ca­tions a pri­ori très dif­férentes sont en fait sous-ten­dues par les mêmes mod­èles, extrême­ment poly­va­lents. 

À l’heure actuelle, nous avons trois secteurs pri­or­i­taires. Tout d’abord, la banque et la finance, où la syn­thèse immé­di­ate de grands flux de don­nées per­met d’assister la prise de déci­sion. Ensuite, le milieu des médias, où notre tech­nolo­gie offre des out­ils d’aide à la pro­duc­tion de con­tenus. Enfin, les grandes entre­pris­es tech­nologiques avec lesquelles on peut dévelop­per d’autres inter­faces homme-machine, d’autres moteurs de recherche, voire même d’autres façons de pro­gram­mer. C’est une tech­nolo­gie qui est fon­da­men­tale­ment transverse !

Quelle est la proposition de valeur de LightOn ? 

En com­para­i­son aux précé­dentes généra­tions d’intelligence arti­fi­cielle, comme le deep learn­ing, ces grands mod­èles de lan­gage pré-entraînés offrent trois avan­tages majeurs : tout d’abord ils résol­vent des cas d’usage bien plus larges, en néces­si­tant peu ou pas de don­nées d’apprentissage. Ensuite, le temps de développe­ment d’une nou­velle appli­ca­tion est réduit à son min­i­mum, on peut par­fois en quelques heures com­mencer à avoir les pre­miers résul­tats alors qu’il fal­lait autre­fois des semaines — ce qui réduit dras­tique­ment le cycle d’itération vers un déploiement en pro­duc­tion. Enfin, comme ils s’utilisent en lan­gage naturel, en français ou en anglais par exem­ple, la bar­rière d’apprentissage dis­paraît. L’intelligence arti­fi­cielle n’est plus une affaire d’ingénieurs : tout le monde peut se l’approprier et appren­dre à lui parler ! 

Et pour franchir ce cap et accélérer votre développement, quelles sont les prochaines étapes ? Quels sont les enjeux qui persistent ? 

Aujourd’hui, nos mod­èles ont un niveau de per­for­mance équiv­a­lent à ceux pro­posés par les GAFAM, mais nous devons aller encore plus loin et con­tin­uer à innover dans un domaine en pleine ébul­li­tion ! Nous avons récem­ment signé un parte­nar­i­at de co-développe­ment avec le Tech­nol­o­gy Inno­va­tion Insti­tute (TII) d’Abu Dhabi (Émi­rats Arabes Unis), un cen­tre de recherche de référence dont les ambi­tions sont uniques, notam­ment en moyens de cal­cul. Sur le plan com­mer­cial, nous avons un impor­tant tra­vail de sen­si­bil­i­sa­tion à men­er auprès des entre­pris­es européennes qui ont par­fois une plus faible matu­rité qu’en Amérique en matière de trans­for­ma­tion dig­i­tale et de val­ori­sa­tion de la don­née par l’intelligence arti­fi­cielle. C’est aus­si une oppor­tu­nité, car nous avons un vaste marché à con­quérir ! Pour répon­dre à l’enjeu de con­fi­den­tial­ité des don­nées, LightOn développe pour ces entre­pris­es la seule offre du marché entière­ment « sou­veraine » : les mod­èles sont instal­lés sur les serveurs de leur choix, qui leur restent privés, et ain­si, les don­nées de l’entreprises ne sont vues par per­son­ne d’autre, sans être soumis­es à des lois extra-européennes. 

Sur le plan financier, LightOn pré­pare une lev­ée de fonds « série A » très ambitieuse pour juste­ment relever ces défis tech­niques et commerciaux. 

Et sur le plan humain, quels sont vos besoins ?

Nous recru­tons des pro­fils tech­niques très poin­tus en IA ou soft­ware engi­neer­ing bien enten­du, mais aus­si des experts en busi­ness devel­op­ment, notam­ment vers l’international grâce à une équipe très diverse — nous comp­tons en ce moment 11 nation­al­ités par­mi nos 20 employés ! Cette ingénierie au plus près de l’état de l’art mon­di­al, avec un impact rapi­de sur les pro­duits, est ce qui nous per­met d’attirer les meilleurs du domaine.

Pour plus d’information : www.LightOn.ai

---

Articles similaires :

Sécuris­er le cloud, par le cloud Vel­tys : l’expert de l’intelligence des données Okwind : une énergie intel­li­gente en cir­cuit court AI Verse démoc­ra­tise l’accès aux datasets Arte­fact : « Les entre­pris­es qui dureront sont celles qui auront réus­si la dif­fu­sion d’une cul­ture data » Fair Vision : de la Com­put­er Vision au Métavers, l’IA pour tous