Datasets:
Modalities:
Text
Formats:
text
Size:
10K - 100K
Tags:
philosophy
epistemology
artificial-intelligence
systems-thinking
value-alignment
cognitive-sciences
License:
Add 03_fondations_systemiques/lecun_world_models.md
Browse files
03_fondations_systemiques/lecun_world_models.md
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# World Models de Yann LeCun — Notes de recherche
|
| 2 |
+
|
| 3 |
+
## Définition centrale (LeCun)
|
| 4 |
+
Un world model est un mécanisme prédictif qui aide un système d'IA à comprendre et anticiper comment le monde se comporte, en construisant une représentation interne abstraite de l'environnement. Ce n'est pas seulement prédire des tokens de langage ou des pixels, mais prévoir les conséquences d'actions dans un cadre "monde" et utiliser ces prédictions pour planifier.
|
| 5 |
+
|
| 6 |
+
Citation directe de LeCun : "A world model is your mental model of how the world behaves" — une séquence d'actions peut être évaluée en prédisant ses effets dans une représentation abstraite du monde.
|
| 7 |
+
|
| 8 |
+
## Architecture modulaire (papier 2022 "A Path Towards Autonomous Machine Intelligence")
|
| 9 |
+
Le système cognitif modulaire proposé comprend :
|
| 10 |
+
1. **Perception/Encodeur** : Compresse les observations en représentations latentes informatives (supprime le bruit, garde la structure essentielle)
|
| 11 |
+
2. **World Model (modèle du monde)** : Prédit les états futurs du monde à partir de la représentation latente et des actions envisagées
|
| 12 |
+
3. **Mémoire** : Stocke les états passés et les représentations pertinentes
|
| 13 |
+
4. **Planificateur** : Sélectionne des séquences d'actions en simulant leurs conséquences via le world model
|
| 14 |
+
5. **Module de coût/récompense** : Évalue les états futurs selon des objectifs (intrinsèques ou extrinsèques)
|
| 15 |
+
6. **Variables latentes** : Capturent l'incertitude et les facteurs cachés, permettant d'envisager plusieurs futurs plausibles
|
| 16 |
+
|
| 17 |
+
## Architecture JEPA (Joint Embedding Predictive Architecture)
|
| 18 |
+
- Non-générative : prédit dans l'espace latent abstrait, pas en pixels/tokens
|
| 19 |
+
- H-JEPA : version hiérarchique pour représentations à plusieurs niveaux d'abstraction
|
| 20 |
+
- Entraînement auto-supervisé (self-supervised learning)
|
| 21 |
+
- VICReg pour la régularisation des représentations
|
| 22 |
+
|
| 23 |
+
## Positionnement épistémologique
|
| 24 |
+
- LeCun critique les LLMs : ils ont "un modèle du langage sur la réalité" mais pas "un modèle de la réalité"
|
| 25 |
+
- Le world model vise une intelligence de type "common sense" — ce que les humains et animaux ont naturellement
|
| 26 |
+
- Apprentissage par observation passive (comme un enfant) plutôt que par supervision externe
|
| 27 |
+
- Permet de raisonner, planifier, agir dans des environnements dynamiques et complexes
|
| 28 |
+
|
| 29 |
+
## Filiation intellectuelle
|
| 30 |
+
- Schmidhuber & Ha : world models recurrents pour agents RL (2018)
|
| 31 |
+
- LeCun : version unifiée, configurable, multi-tâches, hiérarchique
|
| 32 |
+
- Demis Hassabis (DeepMind), Fei-Fei Li : convergence vers l'importance des world models
|
| 33 |
+
- Lien avec la neuroscience : le cerveau humain comme "predictive machine" (Karl Friston, Andy Clark)
|
| 34 |
+
|
| 35 |
+
## Distinction clé LeCun vs LLMs
|
| 36 |
+
| Critère | LLM | World Model (LeCun) |
|
| 37 |
+
|---------|-----|---------------------|
|
| 38 |
+
| Objet de prédiction | Tokens de langage | États du monde (latents) |
|
| 39 |
+
| Représentation | Symbolique/linguistique | Abstraite/continue |
|
| 40 |
+
| Planification | Limitée | Centrale |
|
| 41 |
+
| Rapport au monde | Médiatisé par le langage | Direct (sensorimoteur) |
|
| 42 |
+
| Apprentissage | Supervisé/RLHF | Auto-supervisé |
|
| 43 |
+
|
| 44 |
+
## Sources
|
| 45 |
+
- LeCun, Y. (2022). "A Path Towards Autonomous Machine Intelligence" (OpenReview)
|
| 46 |
+
- Stanford Tech Review (2025) : https://www.stanfordtechreview.com/articles/what-does-yann-lecuns-world-model-mean-explained
|
| 47 |
+
- Meta AI Blog : I-JEPA, V-JEPA
|