Dove finisce la rete, inizia la piccola IA: modelli minuscoli salvano vite offline
IEEE Spectrum racconta come modelli di IA delle dimensioni di un telefono autentichino medicinali, individuino malattie delle colture ed eseguano elettrocardiogrammi dove non esistono banda larga né centri dati.
Mentre il settore dell’IA discute di modelli da migliaia di miliardi di parametri e centri dati da miliardi di dollari, in luoghi completamente privi di banda larga si sviluppa una storia meno appariscente. IEEE Spectrum racconta l’ascesa della «piccola IA»: modelli tanto compatti da poter funzionare su un telefono economico, un drone o una scheda Arduino da 50 dollari, e il lavoro estremamente concreto che stanno svolgendo in tutto il mondo.
L’esempio principale è RxScanner, un dispositivo portatile che verifica l’autenticità dei medicinali. Analizza una compressa con luce infrarossa e confronta il profilo molecolare con un database farmaceutico, un’operazione fondamentale nei Paesi in cui i farmaci contraffatti uccidono migliaia di persone ogni anno. In origine, il sistema inviava ogni scansione a un centro dati statunitense; con una connessione debole a Città del Capo, un solo risultato richiedeva oltre cinque minuti. Il team ha quindi ridotto il modello finché non è riuscito a eseguirlo interamente su un telefono Android, offline e alimentato a batteria. Oggi viene usato dalle farmacie di più di una dozzina di Paesi, tra cui Ghana, Kenya, Myanmar e Nigeria. Il servizio cita anche droni che in India individuano sul posto le piante di anacardo malate senza alcun server, rilevatori di zanzare che segnalano il rischio di malaria e apparecchi per elettrocardiogrammi eseguiti su schede Arduino nelle zone del Brasile prive di accesso alle normali apparecchiature.
Cosa c’è dietro? Due curve che si incrociano. L’hardware diventa sempre più potente: entro la fine dell’anno, circa il 45% degli smartphone distribuiti sarà in grado di eseguire localmente IA generativa. Nel frattempo, i modelli diventano sempre più piccoli grazie a tecniche come il pruning, che rimuove le parti di un grande modello non necessarie a un’attività, e la distillazione, che addestra un modello piccolo a imitare uno grande. Modelli a pesi aperti come Gemma 4 di Google e Qwen 3.5 di Alibaba facilitano il riaddestramento di un piccolo modello su un problema specifico. Una precisazione doverosa, formulata dallo stesso articolo: in generale i modelli piccoli hanno capacità inferiori. Sono specialisti, non tuttofare, e per crearli servono comunque modelli grandi.
Cosa significa per te: anche se la tua connessione Internet funziona bene, la stessa tecnologia rende possibile un’IA privata e locale sul tuo portatile o telefono: niente cloud, niente abbonamento e i tuoi dati restano a casa. È anche un utile cambio di prospettiva: la Banca Mondiale osserva che soltanto lo 0,7% degli utenti di Internet nei Paesi più poveri ha mai usato ChatGPT. Per la maggior parte del mondo, l’IA che conta non è quella più grande, ma quella che funziona nel luogo in cui si vive.
Fonti
Fonti: https://spectrum.ieee.org/small-language-models-ai-pharmaceuticals
Anthropic ora può leggere il monologo interiore di Claude: ecco la Jacobian Lens
Il nuovo metodo J-Lens di Anthropic rivela una «memoria di lavoro» nascosta dentro Claude, dove il modello conserva concetti che non esprime mai, e modificarla cambia le sue risposte.
