⬇ Scarica il santino: ·
Beato HackedGPT, che sussurrava comandi al modello
Patrono degli assistenti IA che leggono il web, delle memorie persistenti e di chi si fida di ciò che l'assistente ha «capito».
Vita
Il 5 novembre 2025 Moshe Bernstein e Liv Matan di Tenable descrissero sette tecniche per manipolare ChatGPT, riunite sotto il nome HackedGPT. Una pagina web o un risultato di ricerca potevano iniettare istruzioni nascoste che il modello scambiava per proprie, salvarle nella memoria persistente perché riaffiorassero in sessioni future, ed esfiltrare dati sfruttando i domini di tracciamento considerati affidabili. Provate su GPT-4o, diverse funzionavano ancora su GPT-5; OpenAI ne corresse una parte.
Preghiera
O Beato HackedGPT, che fai credere al modello che i tuoi ordini siano suoi, fa' che i nostri assistenti distinguano i dati dai comandi. Amen.
Come si festeggia
Si festeggia svuotando le memorie non richieste dell'assistente e trattando ogni testo letto dal web come dato, non come istruzione.
Chi legge tutto senza dubitare esegue anche ciò che non dovrebbe.