Carnet de lectures et de géopolitique, tenu depuis 2017 par Maxime Tessier

Synthèses

Yann Le Cun : apprentissage profond et au-delà, les nouveaux défis de l'IA

Maxime Tessier

Yann le Cun est un chercheur en intelligence artificielle franco-américain. Synthèse de sa conférence, disponible sur la chaîne YouTube de l’École nationale des ponts et chaussées.

L’avis de Yann le Cun est précieux en matière d’intelligence artificielle. Ses seuls travaux de recherche sur ce sujet lors des dernières décennies suffiraient à fonder sa crédibilité, mais il double son expertise d’une expérience au cœur du système au sein de Meta, la maison mère de Facebook, dont il est le chef IA depuis 2018. Il délivre de précieux enseignements dans cette leçon inaugurale à l’Ecole Nationales des ponts et chaussées, à ses héritiers en quelque sorte.

Le chercheur introduit son propos par un parallèle historique. Le dernier évènement historique à l’origine d’une augmentation massive de l’intelligence humaine serait l’invention de l’imprimerie par en 1450 par Gutenberg. Personne ne se risquerait à avancer que l’imprimerie fut une mauvaise invention. Pourtant, l’une de ses conséquences directes bien connues est la naissance du protestantisme et les guerres religieuses qui la suivirent. Yann le Cun cherche à dissocier l’invention de ses effets délétères : il en irait de même pour l’intelligence artificielle.

Ensuite, il développe longuement des formules mathématiques qui, bien qu’elles aient l’air passionnantes, échappent au littéraire que je suis. Je retiens qu’il explique le fonctionnement du deep learning et des General Pre-trained Transformers (les fameux GPT).

Mon intérêt renait quand il aborde les limites de ces systèmes. Il en identifie quatre : ils semblent incapables d’appréhender notre monde physique, ils n’ont pas de mémoire persistante, leur capacité de raisonnement réelle est limitée et ils n’ont pas de qualité de planification. De plus, le volume de données que ces modèles traitent, bien que faramineux, pèsent bien peu par rapport à ceux qu’appréhendent les êtres humains. A titre d’exemple, le plus gros des Large Language Model a vu autant de données qu’un enfant de quatre ans (1014 octets). Dès lors, la voie vers l’Intelligence Artificielle Générale (AGI) doit passer par autre part : s’entrainer sur du texte n’est pas suffisant.

Selon Yann le Cun, le futur de l’IA s’incarne dans les world model (que le site de NVIDIA définit comme des “neural networks that understand the dynamics of the real world, including physics and spatial properties.”).

Pour conclure, le chercheur donne un cadre de réflexion à propos de l’AGI. Il critique cette dénomination. Il lui parait peu adapté de parler d’intelligence artificielle générale pour désigner celle qui atteindra le niveau d’intelligence humain, alors que l’intelligence humaine n’est pas générale. Nous sommes au contraire spécialisés, si l’acception retenue de générale est « d’un haut niveau dans tous les secteurs ».