Là où le réseau s’arrête, la petite IA prend le relais : de minuscules modèles sauvent des vies hors ligne
IEEE Spectrum explique comment des modèles d’IA tenant dans un téléphone authentifient des médicaments, repèrent les maladies des cultures et réalisent des ECG dans des régions dépourvues de haut débit et de centres de données.
Alors que le secteur de l’IA débat de modèles à mille milliards de paramètres et de centres de données valant plusieurs milliards de dollars, une histoire plus discrète se joue dans des régions totalement privées de haut débit. IEEE Spectrum décrit l’essor de la « petite IA »des modèles suffisamment compacts pour fonctionner sur un téléphone bon marché, un drone ou une carte Arduino à 50 dollars, et les tâches très concrètes qu’ils accomplissent partout dans le monde.
Premier exemple : RxScanner, un appareil portable qui vérifie l’authenticité des médicaments. Il analyse un comprimé à la lumière infrarouge et compare son profil moléculaire à une base de données pharmaceutique, un outil crucial dans des pays où les médicaments contrefaits tuent chaque année des milliers de personnes. À l’origine, le système envoyait chaque analyse à un centre de données américain ; avec une connexion faible au Cap, l’obtention d’un résultat prenait plus de cinq minutes. L’équipe a donc réduit le modèle jusqu’à ce qu’il fonctionne entièrement sur un téléphone Android, hors ligne et sur batterie. Des pharmacies de plus d’une douzaine de pays, dont le Ghana, le Kenya, la Birmanie et le Nigeria, l’utilisent désormais. Parmi les autres exemples du reportage figurent des drones en Inde qui détectent sur place les anacardiers malades sans aucun serveur à proximité, des détecteurs de moustiques qui signalent les risques de paludisme et des électrocardiographes fonctionnant sur des cartes Arduino dans des régions du Brésil qui n’ont pas accès aux équipements habituels.
Que se cache-t-il derrière cette évolution ? Deux courbes se croisent. Le matériel devient toujours plus performant, d’ici la fin de l’année, environ 45 % des smartphones livrés devraient pouvoir exécuter localement de l’IA générative. Et les modèles ne cessent de rétrécir grâce à des techniques comme l’élagage, qui retire les parties d’un grand modèle inutiles à une tâche, et la distillation, qui entraîne un petit modèle à imiter un grand. Des modèles aux poids ouverts comme Gemma 4 de Google et Qwen 3.5 d’Alibaba permettent de réentraîner facilement un petit modèle pour un problème précis. L’article lui-même apporte une réserve légitime : les petits modèles disposent de capacités générales moindres, ce sont des spécialistes, pas des modèles polyvalents, et les grands modèles restent nécessaires pour les créer au départ.
Ce que cela signifie pour vous : Même si votre connexion Internet fonctionne parfaitement, cette même technologie rend possible une IA privée et locale sur votre propre ordinateur portable ou téléphone, sans cloud, sans abonnement, et avec des données qui restent chez vous. Elle offre aussi un changement de perspective salutaire : selon la Banque mondiale, seuls 0,7 % des internautes des pays les plus pauvres ont déjà utilisé ChatGPT. Pour l’essentiel de la planète, l’IA qui compte n’est pas la plus grande, c’est celle qui fonctionne là où vivent les gens.
Sources
Sources: https://spectrum.ieee.org/small-language-models-ai-pharmaceuticals
Anthropic peut désormais lire le monologue intérieur de Claude, découvrez la Jacobian Lens
La nouvelle méthode J-Lens d’Anthropic révèle une « mémoire de travail » cachée dans Claude, où le modèle conserve des concepts qu’il n’exprime jamais, et la modifier change ses réponses.
