KoboldCpp
Un programa de un solo archivo para ejecutar modelos de IA abiertos en su propia computadora, con una ventana de chat del navegador incorporada.
KoboldCpp es un programa gratuito que te permite ejecutar un modelo de IA abierto en tu propia máquina. Su punto fuerte es la poca configuración que necesita. Descarga un archivo para su sistema operativo, lo apunta a un archivo de modelo y se abre una ventana de chat en su navegador. No hay instalador ni entorno de programación para configurar, lo que lo convierte en una de las formas más suaves de acceder a la IA local.
Debajo del capó, se basa en llama.cpp, el motor que comparten la mayoría de las herramientas de inteligencia artificial locales, y generalmente adquiere soporte para los modelos abiertos recién lanzados en cuestión de días. Su interfaz integrada se llama Kobold Lite. El proyecto surgió de la comunidad de juegos de rol y ficción interactiva, por lo que tiene algunas características orientadas a la narración, pero funciona perfectamente bien como un asistente privado común y corriente.