← Glossar Firma
METR
Eine unabhängige Organisation, die fortgeschrittene KI-Modelle auf gefährliche Fähigkeiten untersucht.
METR, kurz für Model Evaluation and Threat Research, ist eine gemeinnützige Organisation, die führende Modelle sorgfältig auf ihre tatsächlichen Fähigkeiten prüft. Im Mittelpunkt stehen mögliche Risiken wie selbstständige Hackerangriffe oder Selbstverbesserung.
Diese Arbeit ist wichtig, weil es nicht genügt, wenn Labore ihre eigenen Leistungen bewerten. Unabhängige Tests wie die von METR sollen Probleme erkennen, bevor ein leistungsfähiges Modell breit veröffentlicht wird.
Erwähnt in
-
We Are Building an Invention Meant to Outgrow Its Inventors
-
The Most Valuable AI Skill Is Not Prompting. It Is Verification.
-
KI-Agenten machten Forschungssoftware 60-mal schneller und lagen selbstbewusst in einer Weise falsch, die wochenlang niemand bemerkte
-
Zehn Millionen Dollar für Forschung darüber, was passiert, wenn KI-Agenten aufeinander treffen, und der Einsendeschluss ist Samstag
-
METR fragt neu, ob ein KI-Agent tatsächlich günstiger ist als ein Mensch