OpenAI entraînera ses modèles sur les sessions de sécurité Daybreak Blue à partir du 29 novembre
OpenAI a déclaré aux membres de Trusted Access que les données de session Daybreak Blue, auparavant exclues de la formation, seront utilisées à partir du 29 novembre, puis a promis une désinscription distincte après une réaction négative.
OpenAI prévoit de commencer à former ses modèles sur les données des sessions Daybreak Blue le 29 novembre. Daybreak Blue est une offre de cybersécurité destinée aux membres du programme Trusted Access d’OpenAI, un niveau approuvé pour les professionnels de la sécurité. Jusqu’à présent, ces données étaient interdites à la formation, même lorsqu’un utilisateur avait désactivé le paramètre « améliorer le modèle pour tout le monde ».
Les membres ont appris le changement par e-mail, selon The Decoder et un message partagé sur LinkedIn. Après une réaction violente, un deuxième e-mail a promis une désinscription distincte pour cette utilisation particulière. Comment fonctionne cette option de non-participation et quand elle arrive n’a pas été expliquée. Les interactions signalées lors des examens de sécurité peuvent toujours être utilisées à des fins de sécurité, ce qui est une pratique courante chez les fournisseurs d’IA.
Pourquoi cela dérangerait-il les gens ? Les sessions de sécurité peuvent contenir des éléments sensibles : des détails sur les systèmes d’une entreprise, des vulnérabilités suspectées ou du code en cours de révision. Les professionnels travaillent souvent dans le cadre d’accords de confidentialité, de sorte que « vos données peuvent désormais aider à former un modèle » est différent pour eux que pour quelqu’un qui demande une recette. The Decoder relie également l’histoire à un récent différend au cours duquel deux mathématiciens, Tristan Buckmaster et Levent Alpöge, ont téléchargé des brouillons inachevés de Navier-Stokes sur le Codex d’OpenAI. OpenAI a ensuite présenté sa propre preuve et a refusé toute formation sur ses entrées. Les chercheurs affirment que la nouvelle politique relance la même question de confiance.
Qu’est-ce qui se cache derrière tout cela : Les données d’entraînement sont le carburant des modèles d’IA, et les conversations avec les experts sont un carburant précieux. Les entreprises proposent généralement un changement, et la bonne question est de savoir si le changement signifie ce qu’il dit. Lorsqu’une exclusion sur laquelle les utilisateurs comptaient est supprimée pour un produit, la confiance en prend le coup, même si une désinscription s’ensuit. Il convient également d’être précis sur ce que nous savons : les détails proviennent d’un e-mail transmis par les destinataires, et non d’une page de politique publique OpenAI, la formulation finale peut donc différer.
Ce que cela signifie pour vous : Si vous êtes membre du Trusted Access, vérifiez les paramètres de votre compte et l’e-mail de suivi pour la désinscription avant le 29 novembre, et évitez de coller du matériel client dans une session jusqu’à ce que vous sachiez où il aboutit. Si vous êtes un utilisateur ordinaire du ChatGPT, ce changement ne s’applique pas directement à vous, mais c’est le bon moment pour examiner vos propres contrôles de données et poser une question simple à chaque outil d’IA au travail : ce que je tape est-il utilisé pour la formation, et puis-je le désactiver par écrit ?
Sources
Anthropic étend son programme AI for Science à 20 fondations et instituts de recherche
Le programme gratuit de crédits Claude destiné aux chercheurs d'Anthropic ajoute 20 partenaires nommés, de la Fondation Sloan au Francis Crick Institute, bien que la plupart des travaux en soient encore à leurs débuts.
