Google a construit un petit modèle d'IA qui lit les traces de glucose

Google Research a publié GlucoFM, un modèle de base formé pour donner un sens aux données des glucomètres en continu, de petits capteurs montés sur la peau qui mesurent la glycémie toutes les quelques minutes. La partie notable est la taille. GlucoFM possède environ 720 000 paramètres, les nombres internes qu’un modèle apprend au cours de la formation. Un modèle de chat en compte des centaines de milliards. Celui-ci tiendrait confortablement sur un téléphone.

Le choix de conception derrière celui-ci est simple à décrire. Une trace de glucose entraîne deux événements simultanés : une ligne de base lente qui dérive au cours de la journée et de courts écarts brusques par rapport aux repas, à l’exercice ou à un problème de capteur. Les modèles précédents de ce créneau poussaient les deux via un seul flux de traitement. GlucoFM les divise, gérant séparément la tendance lente et les événements transitoires avant de les combiner. Il assure également le suivi des lectures manquantes plutôt que de combler discrètement les lacunes, ce qui est important car les données réelles des capteurs sont pleines de trous.

Il a été pré-entraîné sur 109 066 heures de données de glucose non étiquetées sur cinq ensembles de données. Sur 14 combinaisons de cohorte et de tâches cliniques, la performance moyenne est passée de 54,7 à 58,8 sur une mesure de précision standard, soit un gain de 4,1 points par rapport au meilleur modèle comparable formé sur les mêmes données. Il a mené toutes les évaluations du risque de diabète et de dysfonctionnement des cellules bêta, et lors de tests inter-cohortes, où un classificateur formé sur un groupe d’étude est appliqué à un groupe complètement différent, il est arrivé en tête dans 11 cas sur 12.

Que se passe-t-il réellement ici : l’idée intéressante ici n’est pas les résultats mais la recette. Le modèle de base évoque généralement quelque chose d’énorme, mais le terme désigne simplement un modèle pré-entraîné sur de nombreuses données non étiquetées afin qu’il puisse être adapté à moindre coût à de nombreuses tâches spécifiques par la suite. Les données cliniques étiquetées coûtent cher : quelqu’un doit effectuer les analyses de sang. Les données non étiquetées des capteurs sont presque gratuites, car les gens portent les capteurs de toute façon. GlucoFM apprend la forme du glucose à partir des données gratuites, de sorte que les exemples étiquetés coûteux vont très loin. Lors des tests, il est resté en avance sur ses concurrents même avec un seul participant labellisé par catégorie. Ce modèle, petit modèle spécialisé et données de capteurs abondantes, est en train de devenir l’une des choses les plus utiles de l’IA.

Ce que cela signifie pour vous : rien pour l’instant, et cela vaut la peine d’être clair à ce sujet. Ceci est un document de recherche, pas un produit, pas un diagnostic, et pas quelque chose dans votre application glucose de demain. Les auteurs sont explicites sur les limites : la population en pré-entraînement est modeste, les réponses varient selon les personnes et selon les marques de capteurs, et le modèle lit actuellement une fenêtre de 24 heures à la fois plutôt que de suivre les tendances sur plusieurs semaines. Ce que cela vous dit, c’est vers où se dirigent les appareils portables grand public. Les capteurs sur votre poignet et sous votre peau collectent déjà bien plus que ce que quiconque lit, et les modèles qui les interpréteront sont suffisamment petits pour fonctionner sur l’appareil plutôt que dans un centre de données, qui est la version qui conserve les données plus près de chez vous. Si vous suivez l’IA principalement via des chatbots, cela vous rappelle que le domaine est bien plus large que cela.

Sources

• Google Research : GlucoFM, modèle de base pour la surveillance continue de la glycémie
• Article : GlucoFM, un modèle de base à double flux pour CGM
• Résumé MarkTechPost