Des chercheurs montrent qu'un modèle ouvert peut transformer les correctifs publics Firefox en attaques efficaces
Epoch AI a laissé le modèle open-weight GLM 5.3 fonctionner seul sur le manque de correctifs de Firefox et a créé des exploits de vol de fichiers pour six versions à environ 1 000 $ chacune.
Epoch AI, un groupe de recherche qui suit les progrès de l’IA, a mené une expérience inquiétante. Cela a donné au modèle open-weight GLM 5.3 de Z.ai un travail simple : créer une page Web qui, lorsque quelqu’un la visite dans Firefox, lit un fichier depuis son ordinateur. Le modèle fonctionnait seul, hors ligne, en utilisant uniquement ce qui était public à la date de sortie de chaque version Firefox. Il a réussi six versions, de la 156.0 à la 158.0.1, livrées entre le 17 septembre et le 26 octobre.
L’astuce réside dans le “patch gap” : la fenêtre entre un correctif de sécurité qui devient visible dans le code public et ce correctif atteignant le navigateur de tout le monde. Un correctif est également une indication de l’endroit où se trouvait le bug. Le modèle a repéré les correctifs à venir, sélectionné les bugs et enchaîné plusieurs étapes pour contourner les défenses du Firefox. Il suffisait de visiter la page pour lire un fichier et l’envoyer à un attaquant. Le succès le plus rapide a duré environ 12 heures, avec une limite de 48 heures par tentative. Une fois la configuration établie, chaque version de Firefox coûtait environ 1 000 $ en frais d’API, bien que les dépenses totales de recherche dépassaient 100 000 $.
Il y a de bonnes nouvelles et une liste de mises en garde. L’équipe a signalé la faille clé non publiée de Mozilla, qui l’a corrigée dans Firefox 159.0 le 27 octobre, et les chercheurs n’ont pas encore vérifié si les attaques fonctionnent toujours. Ils ont réussi à lire les fichiers mais pas à contrôler totalement la machine. Des tentatives similaires contre le Chrome n’ont pas abouti, mais cela ne prouve pas que le Chrome est sûr, car de meilleures invites ou des modèles plus puissants pourraient le faire. Et aucun filtre de sécurité du fournisseur n’est intervenu, même si le travail était conçu comme une recherche sur la sécurité.
Qu’est-ce qui se cache derrière : Les défenseurs se sont toujours précipités pour mettre à jour les correctifs avant que les attaquants ne procèdent à l’ingénierie inverse des correctifs. Ce qui change, c’est le coût. Un travail qui nécessitait autrefois un spécialiste qualifié peut désormais être acheté à l’heure auprès d’un modèle, et la réparation elle-même devient l’indice. Les suggestions d’Epoch sont pratiques : gardez les correctifs privés jusqu’à ce qu’ils soient prêts à être expédiés, déplacez-les des versions de test vers une publication plus rapide, évitez de regrouper des bogues qui pourraient être enchaînés et mettez à jour plus souvent. Firefox et Chrome ont déjà commencé les mises à jour hebdomadaires. Le risque est plus élevé pour les logiciels rarement mis à jour, comme le micrologiciel des routeurs et les systèmes d’exploitation des téléphones.
Ce que cela signifie pour vous : La meilleure réponse est ennuyeuse et efficace. Gardez votre navigateur, votre téléphone et votre routeur sur les mises à jour automatiques et redémarrez-les lorsque vous y êtes invité, car une mise à jour en attente correspond exactement à l’écart sur lequel porte cette recherche. Vous n’avez pas besoin de paniquer ou de changer de navigateur pour une même étude. Si vous dirigez une petite entreprise ou si vous vous occupez d’appareils familiaux, considérez « mise à jour bientôt » comme une véritable date limite et non comme une suggestion.
Sources
Sources: https://epoch.ai/publications/open-weight-models-patch-gap
Mistral publie Large 4 « Le Chonk » en open weights, fort en code mais globalement derrière la Chine
Le paramètre Large 4 de 1 000 milliards de Mistral est désormais téléchargeable avec une licence MIT modifiée et un prix API bon marché, bien que les meilleurs modèles chinois et fermés soient toujours en tête du classement général.