Le pionnier de l'IA, Yann LeCun, a suscité aujourd'hui un débat animé en conseillant la nouvelle génération de développeurs d'éviter les modèles de langage large (LLMs). “Ce domaine est dominé par de grandes entreprises; il reste peu de place pour vos contributions”, a déclaré LeCun lors de VivaTech à Paris. “Concentrez-vous plutôt sur des systèmes d'IA de nouvelle génération qui surmontent les limitations des LLMs.”
En tant que directeur scientifique de l'IA chez Meta et professeur à NYU, les remarques de LeCun ont rapidement provoqué des questions sur les lacunes des LLMs actuels. Interrogé sur X (anciennement Twitter), il a précisé, “Je développe des systèmes d'IA de nouvelle génération, pas des LLMs. En gros, je suggère : ‘compétez avec moi ! Plus il y a d'esprits à travailler sur ce sujet, mieux c'est !’”
Malgré cet appel à l'action, de nombreux utilisateurs ont cherché à comprendre ce que signifie “IA de nouvelle génération” et les alternatives potentielles aux LLMs.
Des développeurs, des data scientists et des spécialistes de l'IA ont partagé une variété d'idées sur X, incluant l'IA axée sur les limites, l'IA discriminative, le multitâche, la multimodalité, l'apprentissage profond catégorique, les modèles basés sur l'énergie, des petits modèles de langage ciblés, des cas d'utilisation de niche, un ajustement personnalisé, des modèles d'état-plan et du matériel pour l'IA incarnée. Certains utilisateurs ont suggéré d'explorer les réseaux Kolmogorov-Arnold (KANs), une avancée prometteuse dans le domaine des réseaux neuronaux.
Un utilisateur a esquissé cinq systèmes d'IA de nouvelle génération :
- IA multimodale
- Raisonnement et intelligence générale
- IA incarnée et robotique
- Apprentissage non supervisé et auto-supervisé
- Intelligence Artificielle Générale (AGI)
Un autre a conseillé à chaque étudiant de maîtriser les fondamentaux, tels que :
- Statistiques et probabilités
- Gestion et transformation des données
- Reconnaissance de motifs classique (e.g., naïve Bayes, arbres de décision, forêts aléatoires)
- Réseaux neuronaux artificiels
- Réseaux neuronaux convolutionnels
- Réseaux neuronaux récurrents
- IA générative
À l'inverse, certains ont affirmé que le moment est idéal pour que les étudiants s'engagent avec les LLMs, car les applications restent largement inexplorées. Il reste beaucoup à apprendre sur l'incitation, le déverrouillage et l'accessibilité.
Des critiques ont également signalé le développement étendu des LLMs par Meta, suggérant que les déclarations de LeCun visaient à étouffer la concurrence. Comme l'a plaisanté un utilisateur, “Quand le responsable de l'IA d'une grande entreprise dit, ‘ne concurrencez pas,’ cela me donne envie de concurrencer.”
LeCun, défenseur de l'IA axée sur des objectifs et des systèmes open-source, a déclaré dans une interview récente au Financial Times que les LLMs manquent de raisonnement logique et n'atteindront jamais une intelligence humaine. “Ils ne comprennent pas le monde physique, n’ont pas de mémoire persistante, ne peuvent pas raisonner de manière significative et ne peuvent pas planifier hiérarchiquement”, a-t-il affirmé.
Meta a récemment introduit son architecture prédictive d'intégration vidéo conjointe (V-JEPA), conçue pour reconnaître et comprendre des interactions complexes entre objets. Cette innovation est en accord avec la vision de LeCun pour une intelligence machine avancée (AMI).
De nombreux experts du secteur partagent l'avis de LeCun concernant les limites des LLMs. L'application de chat IA Faune a décrit ses remarques comme “exceptionnelles”, soulignant que les systèmes à boucle fermée rencontrent une rigidité significative. “Le créateur d'une IA capable d'apprendre et de s'adapter comme un humain sera probablement récompensé par un prix Nobel”, ont-ils affirmé.
D'autres ont souligné le “sur-encadrement” de l'industrie sur les LLMs, les considérant comme une impasse pour de vrais progrès. Certains les ont même qualifiés de simples outils de connexion qui relient efficacement les systèmes, similaires à des opérateurs de commutation téléphonique.
LeCun n'est pas étranger à la controverse. Il a engagé de vifs débats avec ses consœurs pionniers de l'IA, Geoffrey Hinton, Andrew Ng et Yoshua Bengio, sur les risques existentiels posés par l'IA, soutenant souvent que ces inquiétudes sont exagérées.
Un commentateur a rappelé une récente interview avec Hinton, qui prône une approche globale des LLMs, affirmant une forte corrélation entre les cerveaux humains et ceux de l'IA. “Il est fascinant d'observer un tel désaccord fondamental”, a noté l'utilisateur.
Ce choc de perspectives est peu susceptible d'être résolu de sitôt.
Classement
