JEPA
La arquitectura del modelo mundial de Meta, que predice un resumen abstracto de lo que viene a continuación en lugar de los píxeles.
JEPA significa Arquitectura Predictiva de Incrustación Conjunta, un enfoque defendido por Yann LeCun de Meta. La idea central es una reacción contra los generadores de vídeo: en lugar de predecir exactamente cómo se verá el siguiente cuadro, píxel por píxel, JEPA predice una descripción abstracta comprimida del mismo.
El argumento es que la mayoría de los píxeles son detalles irrelevantes. Si desea que un sistema comprenda que un vaso caído se caerá y se romperá, no lo necesita para pintar cada fragmento correctamente, lo necesita para solucionar la situación. Si esa abstracción supera a la generación es uno de los desacuerdos actuales en la investigación de la IA.