← Glossario Azienda
METR
Un gruppo indipendente che verifica se i modelli di IA avanzati possiedano capacità pericolose.
METR, Model Evaluation and Threat Research, è un’organizzazione non profit che sottopone i modelli di punta a valutazioni rigorose, soprattutto dove le capacità potrebbero creare rischi, come attacchi informatici autonomi o auto-miglioramento.
Il lavoro è importante perché non basta che i laboratori valutino i propri risultati. Test indipendenti come quelli di METR aiutano a scoprire problemi prima che un modello potente venga distribuito su larga scala.
Citato in
-
We Are Building an Invention Meant to Outgrow Its Inventors
-
The Most Valuable AI Skill Is Not Prompting. It Is Verification.
-
Gli agenti dell'intelligenza artificiale hanno realizzato software di ricerca 60 volte più veloci e si sbagliavano in modi che nessuno si accorse per settimane
-
Dieci milioni di dollari per studiare cosa succede quando gli agenti IA si incontrano: la scadenza è sabato
-
METR propone un nuovo modo per chiedere se un agente IA costa davvero meno di una persona