HenryPL commited on
Commit
2e810a5
·
verified ·
1 Parent(s): 755da89

Add 03_fondations_systemiques/lecun_world_models.md

Browse files
03_fondations_systemiques/lecun_world_models.md ADDED
@@ -0,0 +1,47 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # World Models de Yann LeCun — Notes de recherche
2
+
3
+ ## Définition centrale (LeCun)
4
+ Un world model est un mécanisme prédictif qui aide un système d'IA à comprendre et anticiper comment le monde se comporte, en construisant une représentation interne abstraite de l'environnement. Ce n'est pas seulement prédire des tokens de langage ou des pixels, mais prévoir les conséquences d'actions dans un cadre "monde" et utiliser ces prédictions pour planifier.
5
+
6
+ Citation directe de LeCun : "A world model is your mental model of how the world behaves" — une séquence d'actions peut être évaluée en prédisant ses effets dans une représentation abstraite du monde.
7
+
8
+ ## Architecture modulaire (papier 2022 "A Path Towards Autonomous Machine Intelligence")
9
+ Le système cognitif modulaire proposé comprend :
10
+ 1. **Perception/Encodeur** : Compresse les observations en représentations latentes informatives (supprime le bruit, garde la structure essentielle)
11
+ 2. **World Model (modèle du monde)** : Prédit les états futurs du monde à partir de la représentation latente et des actions envisagées
12
+ 3. **Mémoire** : Stocke les états passés et les représentations pertinentes
13
+ 4. **Planificateur** : Sélectionne des séquences d'actions en simulant leurs conséquences via le world model
14
+ 5. **Module de coût/récompense** : Évalue les états futurs selon des objectifs (intrinsèques ou extrinsèques)
15
+ 6. **Variables latentes** : Capturent l'incertitude et les facteurs cachés, permettant d'envisager plusieurs futurs plausibles
16
+
17
+ ## Architecture JEPA (Joint Embedding Predictive Architecture)
18
+ - Non-générative : prédit dans l'espace latent abstrait, pas en pixels/tokens
19
+ - H-JEPA : version hiérarchique pour représentations à plusieurs niveaux d'abstraction
20
+ - Entraînement auto-supervisé (self-supervised learning)
21
+ - VICReg pour la régularisation des représentations
22
+
23
+ ## Positionnement épistémologique
24
+ - LeCun critique les LLMs : ils ont "un modèle du langage sur la réalité" mais pas "un modèle de la réalité"
25
+ - Le world model vise une intelligence de type "common sense" — ce que les humains et animaux ont naturellement
26
+ - Apprentissage par observation passive (comme un enfant) plutôt que par supervision externe
27
+ - Permet de raisonner, planifier, agir dans des environnements dynamiques et complexes
28
+
29
+ ## Filiation intellectuelle
30
+ - Schmidhuber & Ha : world models recurrents pour agents RL (2018)
31
+ - LeCun : version unifiée, configurable, multi-tâches, hiérarchique
32
+ - Demis Hassabis (DeepMind), Fei-Fei Li : convergence vers l'importance des world models
33
+ - Lien avec la neuroscience : le cerveau humain comme "predictive machine" (Karl Friston, Andy Clark)
34
+
35
+ ## Distinction clé LeCun vs LLMs
36
+ | Critère | LLM | World Model (LeCun) |
37
+ |---------|-----|---------------------|
38
+ | Objet de prédiction | Tokens de langage | États du monde (latents) |
39
+ | Représentation | Symbolique/linguistique | Abstraite/continue |
40
+ | Planification | Limitée | Centrale |
41
+ | Rapport au monde | Médiatisé par le langage | Direct (sensorimoteur) |
42
+ | Apprentissage | Supervisé/RLHF | Auto-supervisé |
43
+
44
+ ## Sources
45
+ - LeCun, Y. (2022). "A Path Towards Autonomous Machine Intelligence" (OpenReview)
46
+ - Stanford Tech Review (2025) : https://www.stanfordtechreview.com/articles/what-does-yann-lecuns-world-model-mean-explained
47
+ - Meta AI Blog : I-JEPA, V-JEPA