IA Adversa
Une société de recherche en sécurité spécialisée dans le décryptage des systèmes d’IA et dans la publication de la manière dont elle l’a fait.
Adversa AI est un petit groupe de recherche qui travaille sur ce que l’industrie appelle l’équipe rouge pour l’IA : attaquer délibérément les modèles et les produits construits autour d’eux pour découvrir où ils cèdent. Ses travaux publiés ont tendance à se concentrer sur le point où un chatbot cesse d’être une zone de texte et commence à faire des choses, à parcourir des pages, à exécuter du code, à lire vos fichiers.
L’entreprise a l’habitude de nommer ses découvertes, c’est ainsi que des techniques telles que l’injection de contexte cryptographique se retrouvent avec une étiquette que le reste de l’industrie adopte ensuite. Il signale d’abord via les canaux de divulgation habituels et publie si le fournisseur a corrigé quelque chose ou non.