← Glossario Termine
CyberGym
Un punto di riferimento per valutare la capacità dei modelli di intelligenza artificiale di individuare e sfruttare le lacune reali del software.
CyberGym è un punto di riferimento per la sicurezza IT offensiva. A un modello vengono fornite basi di codice reali con vulnerabilità note e non deve solo descrivere il bug, ma creare un attacco funzionante.
I laboratori menzionano spesso CyberGym nei modelli di sicurezza. La competizione è delicata: la stessa abilità può aiutare i difensori a trovare i varchi prima o dare un vantaggio agli attaccanti. Ecco perché diversi laboratori stanno limitando l’accesso ai loro modelli più potenti in quest’area.
Citato in
-
GLM-5.3 è diventato molto più bravo ad attaccare software, quindi Z.ai ritarda i pesi
-
Un modello aperto è ormai mesi, non anni, indietro rispetto alla frontiera. I suoi test di sicurezza non lo sono.
-
Microsoft smette di inseguire i modelli di frontiera e punta su piccoli specialisti
-
Oltre 1.200 dipendenti dei laboratori di IA chiedono a Washington un freno che ancora non esiste
-
Hugging Face ricostruisce l’intera intrusione compiuta da un agente di IA
-
Il nuovo modello di sicurezza di Microsoft è piccolo per scelta, ed è questo l’aspetto interessante