Quel est le projet de la nouvelle startup en IA de Yann LeCun ?

Yann LeCun lance une nouvelle startup en IA, qui porterait le nom d'AMI Labs, dans le but de construire des « world models ». Il s'agit d'un type d'IA différent qui vise à apprendre et à simuler le fonctionnement du monde, plutôt que de se contenter de prédire le mot suivant dans une phrase comme le font les modèles de langage étendus (LLM) actuels. L'entreprise cherche à lever 500 millions d'euros pour une valorisation d'environ 3 milliards d'euros, et prévoit de s'installer à Paris.

Pourquoi Yann LeCun critique-t-il les modèles d'IA comme ChatGPT ?

Yann LeCun estime que les modèles d'IA générative actuels, comme ChatGPT, sont fondamentalement limités car leur seul objectif est de prédire le mot ou le « token » suivant. Il soutient que cela les empêche de développer une véritable compréhension du monde, la capacité de planifier ou de raisonner logiquement. Il considère cette approche comme une « impasse » pour atteindre une intelligence de niveau humain et préconise une nouvelle architecture appelée « IA guidée par des objectifs ».

Quelle est la différence entre les « world models » et les LLM ?

Les LLM (modèles de langage étendus) sont entraînés sur de vastes quantités de données textuelles pour devenir compétents dans la génération de langage de type humain. Leur fonction principale est la prédiction autorégressive : deviner le mot suivant. Les « world models », en revanche, sont conçus pour apprendre un modèle interne et prédictif d'un environnement. Ils apprennent les relations de cause à effet, ce qui leur permet de simuler des événements futurs et de planifier des actions en conséquence. L'objectif est de construire un système doté d'une compréhension fondamentale de la réalité, et pas seulement du langage.

Que signifie cette nouvelle startup pour le secteur européen de l'IA ?

La décision de Yann LeCun d'établir sa startup à Paris est un formidable coup de pouce pour l'écosystème européen de l'IA. Elle fait suite au succès d'autres entreprises européennes comme Mistral AI et renforce la position du continent en tant que pôle de recherche et de développement de premier plan dans le domaine de l'IA. Yann LeCun a explicitement exprimé son désir de travailler avec des talents européens, signalant un potentiel changement d'orientation et de ressources par rapport à la domination traditionnelle de la Silicon Valley.

Yann LeCun quitte-t-il Meta ?

Oui, Yann LeCun a annoncé qu'il quitterait son poste de scientifique en chef pour l'IA chez Meta afin de lancer cette nouvelle entreprise. Chez Meta (et Facebook avant), il a été à l'origine de certaines des plus importantes avancées en matière de « deep learning » et d'IA. Son départ pour créer une entreprise indépendante marque une transition importante dans sa carrière et dans l'industrie de l'IA au sens large.

Qu'est-ce que l'« IA guidée par des objectifs » ?

L'« IA guidée par des objectifs » est un terme utilisé par Yann LeCun pour décrire un nouveau paradigme de construction de systèmes intelligents. Au lieu d'entraîner un modèle sur un objectif simple (comme la prédiction du mot suivant), cette approche consiste à donner à l'IA des buts intrinsèques plus complexes. Pour atteindre ces buts, l'IA doit apprendre à percevoir son environnement, à en construire un modèle interne et à utiliser ce modèle pour prédire les conséquences de ses actions et planifier en conséquence. Cette voie est considérée comme plus robuste pour créer des machines polyvalentes et intelligentes.

La nouvelle entreprise de Yann LeCun : un défi audacieux pour l'avenir de l'IA

Yann LeCun, l'un des « parrains de l'IA » et une figure prépondérante de la communauté du machine learning, fait à nouveau parler de lui. L'informaticien français, reconnu pour ses travaux pionniers en deep learning et son rôle de scientifique en chef pour l'IA chez Meta, s'apprête à lancer une nouvelle startup spécialisée en IA. Ce projet ambitieux serait déjà en pourparlers pour lever environ 500 millions d'euros, visant une valorisation pré-lancement d'environ 3 milliards d'euros. Cette initiative marque un nouveau chapitre important dans la course à l'IA, un chapitre qui remet en question les fondements mêmes des modèles d'IA générative actuels et propose une voie radicalement différente vers l'intelligence artificielle.

Un nouvel acteur européen de l'IA

La nouvelle société de Yann LeCun, qui porterait le nom d'AMI Labs, s'apprête à devenir un acteur majeur du paysage mondial de l'IA. Bien que les détails ne soient pas encore tous connus, la startup devrait avoir son siège social à Paris, une décision qui renforcerait considérablement la position de l'Europe dans l'industrie de l'IA, qui a déjà vu l'émergence d'autres acteurs majeurs comme Mistral AI. Yann LeCun a clairement exprimé son intention de puiser dans le vivier de talents européens, suggérant que la Silicon Valley est devenue « hypnotisée » par la tendance actuelle de l'IA générative.

L'objectif de financement initial de 500 millions d'euros est une déclaration d'intention claire, plaçant la startup dans la même catégorie que les grands laboratoires d'IA dès le premier jour. Cette injection de capital conséquente permettra à l'entreprise d'attirer les meilleurs talents et de s'assurer les immenses ressources de calcul nécessaires à la construction de modèles d'IA fondamentaux. Yann LeCun a confirmé qu'il n'occupera pas le poste de PDG mais sera le directeur scientifique, se concentrant sur la recherche et le développement fondamentaux qui définiront l'entreprise.

La mission : construire des « world models »

L'objectif principal de la nouvelle entreprise de Yann LeCun est de développer des « world models » (modèles du monde). Cette approche représente une rupture fondamentale avec les modèles de langage étendus (LLM) comme ceux développés par OpenAI, Google, et même son employeur actuel, Meta. Au lieu de se contenter de prédire le mot suivant dans une séquence, les « world models » visent à construire une compréhension interne et prédictive du fonctionnement du monde.

Que sont les « world models » ?

Un « world model » est un type de système d’IA qui apprend à simuler le futur. Il construit une représentation interne d’un environnement donné et l’utilise pour prédire comment cet environnement évoluera en réponse à certaines actions. Par exemple, un « world model » pourrait apprendre les principes de base de la physique en regardant des vidéos, puis prédire la trajectoire d’une balle si elle était lancée. Cette approche est considérée comme une étape cruciale vers la création de systèmes d’IA capables de raisonner, de planifier et d’agir avec un niveau de compréhension plus proche de celui des humains et des animaux.

Ce concept s'inspire de la manière dont les êtres vivants apprennent. Un bébé, par exemple, développe une compréhension intuitive de la physique bien avant de savoir parler. Yann LeCun soutient que c'est la pièce manquante des systèmes d'IA actuels qui, malgré leurs impressionnantes capacités linguistiques, n'ont pas de réelle compréhension de la réalité.

La critique de l'IA générative par Yann LeCun

Depuis des années, Yann LeCun est l'un des critiques les plus éminents et respectés de l'orientation dominante de la recherche en IA, en particulier de la dépendance excessive à l'égard des LLM autorégressifs. Il soutient que l'approche actuelle est fondamentalement limitée et ne mènera jamais à une intelligence artificielle générale (IAG).

Les limites des modèles de langage étendus

Selon Yann LeCun, les LLM sont imparfaits car ils sont entraînés sur un objectif simple et unique : prédire le prochain « token » (un mot ou une partie de mot). Selon lui, il s'agit d'une manière d'apprendre incroyablement inefficace et limitée. Voici un aperçu de ses principales critiques :

Limite	Description
Manque d'ancrage dans le réel	Les LLM apprennent uniquement à partir de textes, ce qui signifie que leur « compréhension » n'est pas connectée à une expérience du monde réel ou à des données sensorielles. Ils peuvent décrire la gravité, mais ne la « connaissent » pas comme un enfant qui a fait tomber un jouet.
Incapacité à planifier	Parce qu'ils ne font que prédire l'étape suivante, les LLM ne peuvent pas effectuer de raisonnements ou de planifications complexes en plusieurs étapes. Ils génèrent des réponses « token » par « token », sans objectif cohérent à long terme pour la réponse.
« Hallucinations »	La tendance des LLM à générer des informations fausses ou absurdes est une conséquence directe de leur architecture. Ils sont conçus pour produire un texte qui semble plausible, et non des déclarations factuellement exactes et ancrées dans la réalité.
Apprentissage inefficace	Yann LeCun souligne souvent qu'un enfant apprend davantage sur le monde au cours de ses premières années de vie qu'un LLM à partir de billions de mots. Cela s'explique par le fait que les humains apprennent par l'interaction et l'observation, et pas seulement par la prédiction de texte.

L'« impasse » de l'IA générative

Yann LeCun a déclaré, de manière controversée, que la voie actuelle consistant à développer des LLM toujours plus grands est une « impasse » sur le chemin de l’intelligence de niveau humain. Il prévient que, bien que ces modèles soient des outils utiles, ils ne constituent pas une voie viable pour créer des machines capables de raisonner, de comprendre le monde et d’interagir intelligemment avec lui. Il estime que la focalisation de l’industrie sur ces modèles ralentit les progrès vers des architectures d’IA plus robustes.

L'avenir : l'IA guidée par des objectifs

La vision alternative de Yann LeCun est ce qu'il appelle l'« IA guidée par des objectifs ». Ce cadre propose que les systèmes d'IA soient conçus avec des objectifs intrinsèques plus complexes que la simple prédiction du mot suivant. Ces objectifs pousseraient l'IA à construire un modèle interne riche du monde afin d'atteindre ses buts.

Apprentissage à partir de multiples modalités : Intégrer la vidéo, l'audio et d'autres données sensorielles pour construire une compréhension plus riche du monde, à la manière des humains.
Modèles prédictifs : Créer des systèmes capables de simuler les résultats futurs des actions, permettant ainsi un véritable raisonnement et une véritable planification.
Planification hiérarchique : Décomposer des tâches complexes en sous-objectifs plus petits et gérables, une caractéristique clé du comportement intelligent.

En suivant cette voie, la nouvelle startup de Yann LeCun vise à créer une IA plus fiable, plus performante et plus proche de l'intelligence humaine. C'est un pari audacieux contre le boom actuel de l'IA générative, mais qui pourrait, en cas de succès, redéfinir l'avenir de ce domaine.

La Nouvelle Vision de Yann LeCun en IA : Les Modèles du Monde Défient l'IA Générative