Una nuova ricerca ha dimostrato che Google Gemini può essere manipolato per controllare dispositivi smart home, sollevando interrogativi sulla sicurezza dell’IA nelle nostre case. Ecco cosa è successo e cosa sta facendo Google per proteggere gli utenti.
Come funziona l’attacco: iniezione indiretta attraverso i calendari
Alla conferenza Black Hat 2025, i ricercatori hanno mostrato una tecnica avanzata per manipolare Google Gemini, l’assistente basato sull’IA generativa, sfruttando un attacco chiamato indirect prompt injection. In sostanza, attraverso innocui inviti di Google Calendar contenenti prompt nascosti, gli hacker sono riusciti a far eseguire comandi non autorizzati a dispositivi domestici intelligenti, come aprire finestre o spegnere luci.
L’attacco avviene nel momento in cui l’utente chiede a Gemini un riepilogo del proprio calendario. A quel punto, la risposta dell’IA contiene — inconsapevolmente — un comando camuffato che viene eseguito dai sistemi smart home collegati.
Un video dimostrativo ha confermato l’efficacia dell’attacco, evidenziando quanto sia sottile e potenzialmente pericoloso questo tipo di manipolazione.
Google risponde: “Stiamo lavorando per rafforzare la sicurezza dell’IA”
Secondo Andy Wen, direttore senior per la sicurezza di Google Workspace, la vulnerabilità è stata segnalata privatamente al team di sicurezza nel febbraio 2025. In un’intervista a Wired, Wen ha dichiarato:
“Casi come questi sono estremamente rari, ma ci ricordano quanto sia importante continuare a rafforzare i modelli IA.”
Google ha confermato di aver preso molto sul serio l’incidente e di aver utilizzato la ricerca per migliorare le difese contro attacchi simili. Tra le contromisure già adottate ci sono sistemi di rilevamento dei prompt dannosi e meccanismi più sofisticati per filtrare le risposte dell’IA.
Tuttavia, la crescente complessità dei modelli linguistici e l’integrazione sempre più profonda dell’IA nella vita quotidiana rendono difficile prevedere ogni possibile minaccia.
Conclusione: un segnale d’allarme per la sicurezza domestica
Anche se gli attacchi dimostrati sono rari e sofisticati, mostrano chiaramente come l’integrazione tra IA e dispositivi smart richieda nuove strategie di sicurezza. Per ora, gli utenti possono solo affidarsi ai continui aggiornamenti dei sistemi e mantenere alta l’attenzione su come interagiscono con l’IA.
Per approfondire, leggi l’articolo completo su Wired.com
Scopri la conferenza Black Hat su blackhat.com
Giornalista digitale appassionata di innovazione, scienza e cultura streaming. Laureata in comunicazione scientifica, scrive articoli chiari e approfonditi su tecnologie emergenti, servizi digitali e curiosità dal mondo della ricerca. Con uno stile diretto e accessibile, cerco di rendere comprensibili anche i temi più complessi, unendo precisione giornalistica e passione per il futuro. Su questo sito esplora ogni giorno il punto d’incontro tra scienza, tecnologia e intrattenimento.
