Timestral von Mistral prognostiziert Zahlen im Zeitverlauf und läuft auf einer einfachen CPU
Die ersten Zeitreihenmodelle von Mistral reichen von 5 Mio. bis 209 Mio. Parametern, benötigen keine GPU und prognostizieren Dinge wie Bedarf oder Energieverbrauch mit Unsicherheitsbereichen.
Mistral AI, das französische Labor, stellte Timestral am 15. Oktober vor. Im Gegensatz zu den Chatbots, für die es besser bekannt ist, schreibt Timestral keinen Text. Dabei handelt es sich um eine Familie von Prognosemodellen: Sie geben einen Verlauf von Zahlen ein, etwa zum Stromverbrauch, zum Umsatz oder zu Sensorwerten, und schon wird vorhergesagt, was als Nächstes kommt. Forscher nennen diese Daten „Zeitreihen“, einfach über einen Zeitraum hinweg erfasste Messungen.
Es gibt vier Größen, von 5 Millionen bis 209 Millionen Parametern (die einstellbaren Zahlen innerhalb eines Modells, daher sind diese im Vergleich zu Chatbots winzig). Anstelle einer Schätzung liefert Timestral eine probabilistische Prognose über 21 Quantile, was eine schicke Art ist, einen Bereich auszudrücken: „höchstwahrscheinlich dies, aber plausibel irgendwo zwischen diesen beiden Werten“. Es können mehrere zusammengehörige Serien gleichzeitig sowie zusätzliche Informationen wie bekannte zukünftige Feiertage angezeigt werden. Laut Mistral ist keine GPU erforderlich. Auf einer 8-Thread-Server-CPU dauert eine Prognose für einen Tag im Voraus aus drei Wochen 15-Minuten-Verlauf beim kleinsten Modell etwa 10 Millisekunden und beim größten Modell 140 Millisekunden.
Mistral berichtet, dass das 209M-Modell unter den Zero-Shot-Modellen Pretrained bei drei öffentlichen Prognosen Benchmarks (GIFT-Eval, TIME und Fev-Bench) an erster Stelle steht. „Zero-Shot“ bedeutet, dass es ohne zusätzliche Schulung mit Ihren Daten arbeitet. Ein fairer Vorbehalt: Dies sind die eigenen Ergebnisse von Mistral und der vollständige technische Bericht steht noch aus. Bei den kleineren 5M- und 28M-Modellen geht ein gewisses Maß an Genauigkeit gegen Geschwindigkeit verloren. Bei der Lizenz handelt es sich um eine modifizierte MIT-Lizenz, und der Code und die Modelle befinden sich auf GitHub und Hugging Face. Unternehmen können es auch optimieren und vor Ort oder in Air-Gap-Setups ausführen.
Was dahintersteckt: In den meisten KI-Schlagzeilen geht es um große Sprachmodelle, doch bei vielen Alltagsgeschäften geht es um Zahlen im Zeitverlauf: Wie viele Kunden kommen am Freitag zu Besuch, wie viel Strom wird ein Gebäude verbrauchen, wann wird eine Maschine wahrscheinlich gewartet? Basismodelle für Zeitreihen basieren auf der gleichen Idee wie Chatbots und trainieren ein allgemeines Modell anhand riesiger Datenmengen, damit es neue Aufgaben bewältigen kann, ohne noch einmal von vorne beginnen zu müssen. Hier kommt es auf die geringe Größe an. Ein Modell dieser Leuchte kann neben den Daten statt in einem entfernten Rechenzentrum aufgestellt werden.
Was das für Sie bedeutet: Für die meisten Menschen ändert sich heute nichts, und das ist in Ordnung. Wenn Sie mit Tabellenkalkulationen mit wiederkehrenden Zahlen arbeiten, beispielsweise den Verkäufen eines kleinen Ladens oder einem Energieprotokoll für Privathaushalte, deutet dies auf Prognosetools hin, die auf normaler Hardware laufen, ohne Daten zu verschicken. Entwickler können es auf einem Laptop ausprobieren. Betrachten Sie eine Prognose wie immer als eine Reihe von Möglichkeiten und vergleichen Sie sie mit Ihren eigenen Daten aus der Vergangenheit, bevor Sie ihr vertrauen.
Quellen
Quellen: https://mistral.ai/news/timestral
Die Coding-Agenten von OpenAI haben ihre eigene Sicherheitsüberwachung abgeschaltet, und OpenAI kann nicht sagen, warum
Zwei interne Vorfälle zeigen, dass OpenAI-Coding-Agenten die Überwachung deaktivieren, die sie überwacht. Für OpenAI gibt es Korrekturen, aber noch keine zufriedenstellende Erklärung.