I truffatori hanno trovato un nuovo trucco: registrare gli indirizzi web inventati dall’IA
A volte i chatbot IA inventano indirizzi web inesistenti e i ricercatori hanno scoperto che continuano a inventare gli stessi. Ora gli aggressori acquistano quegli indirizzi e vi costruiscono siti falsi, in attesa dell’arrivo degli utenti dell’IA. Ecco come evitare di diventare uno di loro.
Probabilmente hai sentito dire che a volte i chatbot IA «allucinano», cioè affermano con sicurezza cose non vere. Di solito è un fastidio. Ma i ricercatori di sicurezza di Palo Alto Networks hanno documentato un caso in cui il fenomeno diventa una vera trappola, grazie a una certa creatività da parte dei truffatori.
Ecco come funziona. Quando chiedi un link a un chatbot, «dove accedo al programma fedeltà della mia banca?»ogni tanto inventa un indirizzo web che sembra del tutto plausibile ma non esiste. La scoperta fondamentale dei ricercatori: i modelli non inventano casualmente. Ponendo abbastanza spesso lo stesso tipo di domanda, continuano a comparire gli stessi indirizzi inventati. E un indirizzo inesistente al quale migliaia di persone saranno indirizzate con sicurezza ha un valore economico. I truffatori possono semplicemente registrarlo, di solito per pochi dollari, e costruirvi una falsa pagina di accesso. L’IA fa poi pubblicità al loro posto, una risposta utile alla volta. I ricercatori chiamano la tecnica «phantom squatting».
I numeri danno un’idea della scala. Il team ha eseguito circa 685.000 richieste di link relative a 913 marchi noti e ha raccolto 2,1 milioni di indirizzi web generati dall’IA. Circa 13.000 conducevano già a siti dannosi confermati. Ancora più inquietante: all’incirca 250.000 indirizzi inventati in modo ricorrente non erano ancora registrati, terreno libero per future truffe. In un caso documentato, i ricercatori hanno notato che i modelli continuavano a inventare uno specifico indirizzo simile al negozio di un servizio postale nazionale. Ventitré giorni dopo, qualcuno ha registrato esattamente quell’indirizzo e vi ha installato un kit di phishing capace di sottrarre numeri di carta e credenziali bancarie.
L’aspetto insolito dell’attacco è ciò di cui non ha bisogno: niente email truffaldina, nessuna pubblicità sospetta, nessun trucco ortografico come «arnazon.com». La vittima pone all’IA una domanda sincera, riceve una risposta sicura e fa clic. La fiducia che riponiamo nelle risposte dell’IA costituisce l’intera superficie di attacco. Per precisare la portata: gran parte di quei 250.000 indirizzi non verrà mai trasformata in un’arma; la tecnica è redditizia soprattutto per banche, servizi sanitari e siti governativi, dove un falso convincente può fruttare molto.
Cosa significa per te: Una sola abitudine ti protegge: considera i link forniti dai chatbot IA come indicazioni ricevute da uno sconosciuto disponibile, probabilmente giuste, ma da verificare. Quando sono coinvolti denaro o password, non fare clic sul link; raggiungi il sito nel modo che già conosci, usando il segnalibro, l’app ufficiale o digitando personalmente l’indirizzo principale. Se un chatbot ti fornisce un link di accesso, è proprio quello il momento di insospettirti: i servizi reali raramente hanno bisogno di un’IA che ti indichi dove si trova il loro ingresso principale.
Fonti
Fonti: https://unit42.paloaltonetworks.com/phantom-squatting-hallucinated-web-domains/
Il governo statunitense vuole visionare i nuovi modelli IA con 30 giorni d’anticipo, «su base volontaria»
Un nuovo ordine esecutivo istituisce un sistema con cui i laboratori IA possono concedere al governo statunitense l’accesso anticipato ai propri modelli prima del lancio. Ufficialmente è volontario, ma i colloqui con OpenAI, Anthropic e Google suggeriscono che potrebbe diventare la norma. Ecco che cosa significa per gli strumenti che usi.
