SaferAI
Eine gemeinnützige Organisation, die KI-Modelle unabhängig auf gefährliche Fähigkeiten hin bewertet und bewertet, wie ernsthaft Labore mit Risiken umgehen.
SaferAI ist eine gemeinnützige Organisation, die KI-Modelle von außen testet. Anstatt sich bei der Sicherheit seines Modells auf die Aussagen eines Labors zu verlassen, führt SaferAI seine eigenen Bewertungen durch, häufig über die öffentliche API, und veröffentlicht die Ergebnisse. Darüber hinaus werden KI-Unternehmen anhand ihrer Risikomanagementpraktiken bewertet, was sie zu einer regelmäßigen und gelegentlich unwillkommenen Präsenz im Nachrichtenzyklus der Branche gemacht hat.
Die Bewertung des Modells GLM-5.2 mit offenem Gewicht im Jahr 2026 war ein gutes Beispiel dafür, warum unabhängige Tests wichtig sind: Das Modell lehnte keine der ihm übertragenen offensiven Cyber- oder Biologieaufgaben ab, während ein vergleichbares geschlossenes Modell dies so konsequent ablehnte, dass der Test nicht abgeschlossen werden konnte. Geschäftsführer Henry Papadatos fasste den Punkt zusammen: „Die Grenze der Leistungsfähigkeit ist nicht die Grenze des Risikos.“