Unsloth
Un proyecto de código abierto que hace que el ajuste y la ejecución de modelos de lenguaje sean más rápidos y lo suficientemente pequeños para una GPU.
Unsloth es un equipo pequeño y una biblioteca de código abierto dirigida a un problema práctico: adaptar un modelo de lenguaje a tus propios datos suele necesitar más memoria que la que tiene una máquina normal. Unsloth reescribe las partes lentas de ese proceso para que el mismo trabajo quepa en una sola tarjeta gráfica de consumo y finalice varias veces más rápido.
También es uno de los proyectos más rápidos en publicar versiones comprimidas y listas para ejecutar de nuevos modelos abiertos, a menudo a las pocas horas de su lanzamiento. Si alguna vez descargó un modelo cuantificado de Hugging Face para ejecutarlo localmente, es muy probable que provenga de Unsloth.