Siamo abituati a discutere di intelligenza artificiale generativa in termini di veridicità dei contenuti: una fotografia è autentica oppure è stata modificata? Un video documenta realmente qualcosa oppure è sintetico?
La domanda posta da un gruppo di ricercatori del MIT Media Lab, della University of the Thai Chamber of Commerce e della University of California Irvine è più radicale: che cosa accade alla nostra memoria dopo aver visto una versione modificata dall’AI di qualcosa che avevamo già visto?
Il lavoro, Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection, è stato pubblicato nell’ambito della CHI Conference on Human Factors in Computing Systems 2025 e vede tra gli autori anche Elizabeth Loftus, una delle principali studiose mondiali della malleabilità della memoria.
La conclusione sperimentale è netta: l’esposizione a immagini modificate dall’intelligenza artificiale aumenta la probabilità che una persona ricordi dettagli che nell’immagine originaria non erano presenti. E l’effetto diventa ancora più forte quando quelle immagini vengono trasformate in video.
La memoria non è una registrazione
Il risultato è meno sorprendente per la psicologia cognitiva di quanto potrebbe sembrare. La memoria umana non funziona come un archivio nel quale un episodio viene registrato una volta per tutte e successivamente recuperato senza modificazioni. Ricordare significa, almeno in parte, ricostruire. La ricerca sui false memories ha dimostrato da decenni che domande suggestive, informazioni successive all’evento e fotografie manipolate possono modificare il ricordo che una persona conserva di ciò che ha vissuto.
Il salto introdotto dall’AI è soprattutto quantitativo e tecnologico. Una manipolazione fotografica che un tempo richiedeva competenze, tempo e intenzionalità può oggi essere prodotta automaticamente, in pochi secondi e con un livello di realismo molto elevato. Gli autori sottolineano proprio questo passaggio: l’AI rende la modifica delle nostre “memorie esternalizzate” — fotografie e video che utilizziamo per ricordare — estremamente più accessibile e scalabile.
E una fotografia non serve semplicemente a conservare un momento. Ogni volta che torniamo a guardarla, può contribuire a ricostruire quel momento.
L’esperimento
I ricercatori hanno condotto uno studio preregistrato su 200 partecipanti, divisi casualmente in quattro gruppi. Inizialmente tutti hanno osservato 24 fotografie originali. Dopo un breve compito distraente, ciascun gruppo è stato esposto a una condizione differente:
- fotografie originali non modificate;
- fotografie modificate tramite AI;
- video generati dall’AI partendo dalle fotografie originali;
- video generati dall’AI partendo dalle fotografie precedentemente modificate dall’AI.
Le alterazioni riguardavano persone, oggetti e ambiente: potevano cambiare l’espressione di un volto, l’etnia di una persona, il momento della giornata, eliminare elementi ambientali oppure aggiungere oggetti come un veicolo militare. Successivamente ai partecipanti veniva chiesto di ricordare le immagini originarie, non quelle manipolate.
Ed è qui che emerge il dato centrale.
L’AI può “riscrivere” ciò che ricordiamo
Rispetto al gruppo di controllo, le fotografie modificate tramite AI hanno prodotto 1,67 volte più falsi ricordi. I video generati partendo da fotografie non modificate hanno prodotto un incremento più contenuto, pari a circa 1,25 volte. Ma la condizione più potente è risultata quella in cui una fotografia era prima modificata dall’AI e poi trasformata in un video generativo: in questo caso i falsi ricordi sono stati 2,05 volte quelli del gruppo di controllo. Non cambia soltanto la quantità dell’errore.
Cambia anche qualcosa di psicologicamente molto più rilevante: la sicurezza con cui l’errore viene ricordato. Nel gruppo esposto ai video generati da immagini precedentemente manipolate, la fiducia nei falsi ricordi è risultata circa 1,19 volte superiore rispetto al controllo. In altre parole, l’AI non sembra soltanto aumentare la possibilità di ricordare qualcosa che non c’era. Può aumentare anche la convinzione che quel ricordo sia autentico.
Il problema non sono soltanto i deepfake
Lo studio evidenzia una distinzione interessante. Un deepfake costruisce tipicamente un contenuto interamente artificiale e può quindi attivare nello spettatore un certo grado di sospetto. Un’AI edit, invece, parte da qualcosa di autentico. Una fotografia reale viene modificata in modo magari minimo: una persona eliminata, un dettaglio aggiunto, un ambiente leggermente trasformato.
Proprio questa continuità con l’originale potrebbe renderla particolarmente insidiosa.
Non stiamo più discutendo soltanto di falsificazione dell’informazione presente, ma della possibile alterazione retroattiva della rappresentazione del passato. Gli autori arrivano a osservare che i sistemi generativi potrebbero influenzare non soltanto la memoria individuale, ma anche quella collettiva e la ricostruzione di eventi sociali o storici.
Le conseguenze potenziali sono evidenti: testimonianze giudiziarie, informazione politica, documentazione giornalistica, archivi familiari, social network. Ma esiste anche l’altra faccia del problema. Ed è probabilmente il passaggio scientificamente più interessante del lavoro.
Se una rappresentazione artificiale può contribuire involontariamente alla formazione di un falso ricordo, potremmo utilizzare intenzionalmente lo stesso meccanismo per modificare il peso emotivo con cui viene ricordata un’esperienza?
Gli autori prendono seriamente in considerazione questa possibilità. Parlano esplicitamente di therapeutic memory reframing: l’intelligenza artificiale potrebbe essere utilizzata, sotto supervisione professionale, per modificare elementi associati a ricordi traumatici e favorire la costruzione di associazioni emotivamente meno disturbanti. Tra i possibili campi citati figurano PTSD, fobie e disturbi d’ansia. Un’immagine collegata a un episodio doloroso potrebbe, per esempio, essere progressivamente reinterpretata attraverso versioni visuali differenti.
Non si tratterebbe necessariamente di “cancellare” un ricordo. Potrebbe trattarsi di intervenire sul modo in cui quel ricordo viene ricostruito e sul significato emotivo che gli viene attribuito. Ed è proprio qui che il confine fra tecnologia, neuroscienze, psicologia ed etica diventa molto sottile.
Dalla correzione di un'immagine alla progettazione dell'esperienza mnestica
Il paper non dimostra che sia possibile impiantare arbitrariamente ricordi autobiografici complessi. Questa distinzione è essenziale. L’esperimento riguarda infatti il ricordo di dettagli visivi osservati pochi minuti prima, all’interno di un contesto sperimentale controllato. Non dimostra che un sistema possa creare artificialmente un’intera esperienza autobiografica o sostituire stabilmente un ricordo consolidato.
Gli stessi ricercatori riconoscono diversi limiti: esposizione breve, solo 200 partecipanti statunitensi, appena 24 immagini prestabilite e assenza di fotografie personali dei soggetti. Chiedono quindi studi longitudinali, utilizzo di ricordi personali, sperimentazioni più naturalistiche e analisi anche di contenuti testuali e sonori.
Ma è precisamente questo limite a rendere interessante la prossima domanda. Non più soltanto:
“Un contenuto sintetico può alterare un ricordo?"
I dati iniziano a suggerire di sì. La domanda successiva diventa:
“È possibile progettare in modo controllato, misurabile e reversibile questa interazione tra contenuto artificiale e memoria umana?”
Significa passare dalla generazione di immagini alla progettazione di sistemi capaci di osservare la risposta dell'individuo, adattare progressivamente lo stimolo e misurare l'evoluzione della sua rappresentazione mnestica. È una frontiera di ricerca molto diversa dalla semplice generative AI.
Il problema decisivo sarà l'etica
Gli autori sono molto cauti su questo punto. Una tecnologia capace anche soltanto di influenzare la ricostruzione dei ricordi tocca direttamente autonomia individuale, identità personale, consenso informato e integrità dell’esperienza autobiografica. Per gli stessi motivi per cui potrebbe avere valore terapeutico, potrebbe avere applicazioni estremamente problematiche.
Chi decide quale ricordo debba essere modificato? Fino a che punto è lecito attenuare gli elementi negativi di un'esperienza? Come si conserva la distinzione tra ciò che è realmente accaduto e ciò che è stato successivamente ricostruito? E soprattutto: chi possiede il diritto di intervenire sulla memoria di un'altra persona?
Lo studio indica esplicitamente la necessità di trasparenza, consenso informato, protezioni contro l'uso politico o personale abusivo, tutela della privacy e supervisione professionale nelle eventuali applicazioni terapeutiche.
Sono questioni che probabilmente non potranno essere risolte soltanto dagli ingegneri. Richiederanno psicologi cognitivi e clinici, neuroscienziati, esperti di Human-Computer Interaction, giuristi, bioeticisti e specialisti di intelligenza artificiale.
Una nuova disciplina potrebbe essere appena agli inizi
Per molti anni abbiamo pensato all'intelligenza artificiale come a una tecnologia capace di produrre informazioni. Poi abbiamo iniziato a considerarla una tecnologia capace di produrre esperienze. La ricerca di Pataranutaporn e colleghi suggerisce un passaggio ulteriore: le esperienze artificialmente generate possono interferire con il modo in cui ricostruiamo quelle reali. Non significa che disponiamo già di una tecnologia per programmare la memoria umana. Significa qualcosa di forse più importante dal punto di vista scientifico: abbiamo una prima evidenza sperimentale che l'interazione tra AI generativa e memoria può essere misurata. E quando un fenomeno diventa misurabile, può diventare oggetto di ricerca sistematica. Per chi lavora all'intersezione tra intelligenza artificiale, comportamento e cognizione, è difficile immaginare oggi un territorio di ricerca più delicato.
O più interessante.
Fonte: Pataranutaporn P., Archiwaranguprok C., Chan S.W.T., Loftus E., Maes P., “Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection”, CHI Conference on Human Factors in Computing Systems, 2025.
Analytiko · 28 agosto 2026