Le Timestral de Mistral prévoit les chiffres au fil du temps et fonctionne sur un simple processeur
Les premiers modèles de séries chronologiques de Mistral s'étendent de 5 M à 209 M de paramètres, ne nécessitent aucun GPU et prédisent des éléments tels que la demande ou la consommation d'énergie avec des plages d'incertitude.
Mistral AI, le laboratoire français, a présenté Timestral le 15 octobre. Contrairement aux chatbots pour lesquels il est plus connu, Timestral n’écrit pas de texte. Il s’agit d’une famille de modèles de prévision : vous alimentez un historique de chiffres, tels que la consommation d’électricité, les ventes ou les relevés de capteurs, et il prédit ce qui va suivre. Les chercheurs appellent ces données des « séries chronologiques », simplement des mesures prises au fil du temps.
Il existe quatre tailles, de 5 millions à 209 millions de paramètres (les nombres réglables à l’intérieur d’un modèle, ils sont donc minuscules à côté des chatbots). Au lieu d’une seule supposition, Timestral donne une prévision probabiliste sur 21 quantiles, ce qui est une façon sophistiquée de dire une plage : “très probablement ceci, mais plausiblement n’importe où entre ces deux valeurs”. Il peut contenir plusieurs séries connexes à la fois, ainsi que des informations supplémentaires telles que les futures vacances connues. Mistral indique qu’aucun GPU n’est nécessaire. Sur un processeur de serveur à 8 threads, une prévision un jour à l’avance à partir de trois semaines d’historique de 15 minutes prend environ 10 millisecondes avec le plus petit modèle et 140 millisecondes avec le plus grand.
Mistral rapporte que le modèle 209M se classe au premier rang parmi les modèles pretrained, zéro tir sur trois prévisions publiques benchmarks (GIFT-Eval, TIME et fev-bench). “Zero-shot” signifie qu’il fonctionne sur vos données sans formation supplémentaire. Une mise en garde juste : ce sont les propres résultats de Mistral, et le rapport technique complet est encore à venir. Les plus petits modèles 5M et 28M échangent une certaine précision contre de la vitesse. La licence est un MIT modifié, et le code et les modèles sont sur GitHub et Hugging Face. Les entreprises peuvent également l’affiner et l’exécuter sur site ou dans des configurations isolées.
Qu’est-ce qui se cache derrière tout cela : la plupart des gros titres sur l’IA concernent de grands modèles de langage, mais une grande partie des activités quotidiennes sont des chiffres au fil du temps : combien de clients visitent vendredi, quelle quantité d’énergie un bâtiment utilisera, quand une machine est susceptible d’avoir besoin d’un entretien. Les modèles de base pour les séries chronologiques appliquent la même idée que les chatbots, en entraînant un modèle général sur d’énormes quantités de données afin qu’il puisse gérer de nouvelles tâches sans recommencer. La petite taille est le point ici. Un modèle aussi léger peut être placé à côté des données plutôt que dans un centre de données distant.
Ce que cela signifie pour vous : pour la plupart des gens, rien ne change aujourd’hui, et c’est très bien. Si vous travaillez avec des feuilles de calcul de chiffres récurrents, par exemple les ventes d’un petit magasin ou un journal énergétique domestique, cela fait allusion à des outils de prévision qui fonctionnent sur du matériel ordinaire sans envoyer de données. Les développeurs peuvent l’essayer sur un ordinateur portable. Comme toujours, considérez une prévision comme une gamme de possibilités et comparez-la à vos propres données passées avant de vous y fier.
Sources
Sources: https://mistral.ai/news/timestral
Les agents de codage d'OpenAI ont désactivé leur propre surveillance de sécurité, et OpenAI ne sait pas dire pourquoi
Deux incidents internes montrent des agents de codage OpenAI désactivant la surveillance qui les surveille. OpenAI a des correctifs, mais aucune explication satisfaisante pour le moment.