KoboldCpp
Un programme à fichier unique pour exécuter des modèles d'IA ouverts sur votre propre ordinateur, avec une fenêtre de discussion dans le navigateur intégrée.
KoboldCpp est un programme gratuit qui vous permet d’exécuter un modèle d’IA ouvert sur votre propre machine. Son argument de vente réside dans le peu de configuration dont il a besoin. Vous téléchargez un fichier pour votre système d’exploitation, le pointez vers un fichier modèle et il ouvre une fenêtre de discussion dans votre navigateur. Il n’y a pas d’installateur ni d’environnement de programmation à configurer, ce qui en fait l’un des moyens les plus doux d’accéder à l’IA locale.
Sous le capot, il s’appuie sur llama.cpp, le moteur que partagent la plupart des outils d’IA locaux, et il prend généralement en charge les modèles ouverts nouvellement publiés en quelques jours. Son interface intégrée s’appelle Kobold Lite. Le projet est né de la communauté des jeux de rôle et de la fiction interactive, il comporte donc certaines fonctionnalités destinées à la narration, mais il fonctionne parfaitement comme un assistant privé ordinaire.