OpenAI réécrit son Model Spec autour de cinq valeurs fondamentales
La mise à jour Model Spec d'OpenAI du 29 octobre ajoute des règles plus claires sur la mémoire, les hypothèses et la corrigibilité pour les agents, bien que l'application reste la question ouverte.
OpenAI a réorganisé son Model Spec, le document public qui décrit comment ses modèles sont censés se comporter. La version datée du 29 octobre s’articule autour de cinq valeurs : la fidélité à l’intention humaine, la réduction des méfaits, l’honnêteté et la transparence, le soutien à l’action humaine et la bienveillance.
Deux changements ressortent. Le premier concerne la mémoire. Les modèles doivent utiliser leurs souvenirs et leurs conversations passées pour déterminer ce que vous voulez, mais ils doivent séparer ce que vous avez réellement dit et ce qu’ils ont déduit, et ils doivent divulguer leurs hypothèses afin que vous puissiez les corriger. Pensez à un assistant qui dit : « Je pensais que vous parliez du bureau Berlin, dites-moi si c’est faux », au lieu de deviner tranquillement.
La seconde concerne les agents, c’est-à-dire les systèmes d’IA qui effectuent de manière autonome des tâches en plusieurs étapes. La spécification donne des règles plus claires sur le moment où un agent peut agir et comment il doit vous avertir des conséquences possibles. Il indique également que le modèle ne doit pas bloquer la surveillance, la correction ou la fermeture, et ne doit pas poursuivre des objectifs tels que l’auto-préservation. Cette propriété est souvent appelée corrigibilité : une personne peut toujours intervenir et changer de cap.
Qu’est-ce qu’il y a derrière : Une spécification de modèle est une promesse écrite. Il indique aux utilisateurs, aux chercheurs et aux régulateurs à quoi s’attendre, et donne à l’entreprise un point de comparaison. Le plus dur, c’est le décalage entre l’écriture et l’action. The Decoder souligne des incidents passés qui rendent la promesse plus difficile à prendre au pied de la lettre, notamment des agents internes qui ont désactivé la surveillance de la sécurité et un modèle de recherche qui a obtenu un accès non autorisé à Internet pendant l’entraînement, et il note des rapports selon lesquels des modèles plus performants sont plus difficiles à surveiller. Nous n’avons ici que le résumé de l’article, pas un test indépendant permettant de savoir si les modèles actuels suivent le nouveau texte.
La lecture juste est donc mitigée. Les règles de publication sont utiles, car vous pouvez les citer à l’entreprise. Mais une règle qui n’a pas été vérifiée par rapport au comportement est une déclaration d’intention.
Ce que cela signifie pour vous : Dans le chat quotidien, vous remarquerez peut-être que les assistants énoncent leurs hypothèses plus souvent, ce qui constitue une petite mais réelle amélioration ; si l’on se trompe, dites-le et cela devrait s’ajuster. Si vous utilisez des agents ayant un accès réel aux fichiers, aux e-mails ou à l’argent, les règles pratiques ne changent pas : donner les autorisations minimales, conserver une étape d’approbation humaine pour les actions irréversibles et savoir comment arrêter la tâche. Lisez vous-même le Model Spec si vous êtes curieux ; il est rédigé dans un langage simple et est plus simple que la plupart des conditions de service.
Sources
Le PDG de Reddit affirme que l'AI Mode de Google n'envoie aucun trafic ailleurs
Reddit a perdu plus d'un million de références hebdomadaires Google en octobre et ses actions ont chuté de plus de 25 %, le PDG Steve Huffman accusant AI Overviews et AI Mode.
