JEPA
L'architecture du modèle mondial de Meta, qui prédit un résumé abstrait de ce qui va suivre plutôt que les pixels.
JEPA signifie Joint Embedding Predictive Architecture, une approche défendue par Yann LeCun de Meta. L’idée centrale est une réaction contre les générateurs vidéo : au lieu de prédire exactement à quoi ressemblera l’image suivante, pixel par pixel, JEPA en prédit une description abstraite compressée.
L’argument est que la plupart des pixels ne sont pas des détails pertinents. Si vous voulez qu’un système comprenne qu’un verre tombé va tomber et se briser, vous n’en avez pas besoin pour peindre correctement chaque éclat, vous en avez besoin pour corriger la situation. La question de savoir si cette abstraction bat la génération est l’un des désaccords actuels dans la recherche sur l’IA.