Baseten
Ein amerikanisches Unternehmen, das KI-Modelle hostet und für andere Unternehmen betreibt, sodass diese Unternehmen die Hardware nicht verwalten müssen.
Baseten verkauft Inferenz, bei der es darum geht, ein trainiertes Modell tatsächlich auszuführen und damit Anfragen zu beantworten. Ein Unternehmen, das ein offenes Modell in seinem Produkt verwenden möchte, kann entweder Grafikkarten kaufen, Server einrichten und diese mit Strom versorgen oder das Modell an einen Dienst wie Baseten übergeben und pro Anfrage bezahlen. Die meisten entscheiden sich für die zweite Variante, weshalb diese Schicht der Branche schnell gewachsen ist und Baseten im Jahr 2026 einen Wert von rund 13 Milliarden Dollar hatte.
Der Kompromiss ist der bei jedem Anbieter übliche: Bequemlichkeit im Austausch gegen Vertrauen. Ihre Eingabeaufforderungen und manchmal auch die Daten Ihrer Kunden passieren die Systeme anderer, weshalb Sicherheitsforscher diesen Anbietern große Aufmerksamkeit schenken.