Baseten
Une entreprise américaine qui héberge des modèles d’IA et les gère pour d’autres entreprises, afin que ces entreprises n’aient pas à gérer le matériel.
Baseten vend de l’inférence, qui consiste à exécuter un modèle entraîné et à répondre aux demandes avec celui-ci. Une entreprise qui souhaite utiliser un modèle ouvert dans son produit peut soit acheter des cartes graphiques, configurer des serveurs et les alimenter, soit confier le modèle à un service tel que Baseten et payer à la demande. La plupart choisissent la seconde, c’est pourquoi cette couche de l’industrie s’est développée rapidement et pourquoi Baseten était évalué à environ 13 milliards de dollars en 2026.
Le compromis est habituel chez tout fournisseur : la commodité en échange de la confiance. Vos invites, et parfois les données de vos clients, transitent par les systèmes de quelqu’un d’autre, c’est pourquoi les chercheurs en sécurité accordent une attention particulière à ces fournisseurs.