Nous avons pris l'habitude de discuter de l'IA générative en termes de véracité des contenus : une photographie est-elle authentique ou a-t-elle été modifiée ? Une vidéo documente-t-elle réellement quelque chose, ou est-elle synthétique ?
La question posée par un groupe de chercheurs du MIT Media Lab, de la University of the Thai Chamber of Commerce et de la University of California Irvine est plus radicale : que se passe-t-il dans notre mémoire après avoir vu une version modifiée par l'IA de quelque chose que nous avions déjà vu ?
Le travail, Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection, a été publié dans le cadre de la CHI Conference on Human Factors in Computing Systems 2025, et compte parmi ses auteurs Elizabeth Loftus, l'une des principales spécialistes mondiales de la malléabilité de la mémoire.
La conclusion expérimentale est nette : l'exposition à des images modifiées par l'IA augmente la probabilité qu'une personne se souvienne de détails absents de l'image originale. Et l'effet devient encore plus marqué lorsque ces images sont transformées en vidéos.
La mémoire n'est pas un enregistrement
Le résultat est moins surprenant pour la psychologie cognitive qu'il n'y paraît. La mémoire humaine ne fonctionne pas comme une archive dans laquelle un épisode serait enregistré une fois pour toutes, puis récupéré sans altération. Se souvenir signifie, au moins en partie, reconstruire. La recherche sur les faux souvenirs démontre depuis des décennies que des questions suggestives, des informations reçues après l'événement et des photographies manipulées peuvent modifier le souvenir qu'une personne garde de ce qu'elle a vécu.
Le saut introduit par l'IA est avant tout quantitatif et technologique. Une manipulation photographique qui exigeait autrefois compétence, temps et intention délibérée peut aujourd'hui être produite automatiquement, en quelques secondes et avec un niveau de réalisme très élevé. Les auteurs insistent précisément sur ce changement : l'IA rend la modification de nos « souvenirs externalisés » — les photos et vidéos que nous utilisons pour nous souvenir — considérablement plus accessible et plus facile à généraliser.
Or une photographie ne sert pas simplement à conserver un instant. Chaque fois que nous la regardons de nouveau, elle peut contribuer à reconstruire ce moment.
L'expérience
Les chercheurs ont mené une étude préenregistrée auprès de 200 participants, répartis aléatoirement en quatre groupes. Tous ont d'abord observé 24 photographies originales. Après une brève tâche de diversion, chaque groupe a été exposé à une condition différente :
- photographies originales non modifiées ;
- photographies modifiées par IA ;
- vidéos générées par IA à partir des photographies originales ;
- vidéos générées par IA à partir des photographies déjà modifiées par IA.
Les altérations portaient sur les personnes, les objets et l'environnement : elles pouvaient modifier l'expression d'un visage, l'origine ethnique d'une personne, le moment de la journée, supprimer des éléments du décor ou ajouter des objets tels qu'un véhicule militaire. Les participants devaient ensuite se rappeler les images originales, et non les images manipulées.
C'est là qu'apparaît le résultat central.
L'IA peut « réécrire » ce dont nous nous souvenons
Par rapport au groupe témoin, les photographies modifiées par IA ont produit 1,67 fois plus de faux souvenirs. Les vidéos générées à partir de photographies non modifiées ont produit une augmentation plus modérée, d'environ 1,25 fois. Mais la condition la plus puissante s'est révélée être celle où une photographie était d'abord modifiée par l'IA, puis transformée en vidéo générative : dans ce cas, les faux souvenirs ont été 2,05 fois plus nombreux que dans le groupe témoin. Ce n'est pas seulement la quantité d'erreurs qui change.
Quelque chose de psychologiquement bien plus significatif change également : la confiance avec laquelle l'erreur est mémorisée. Dans le groupe exposé aux vidéos générées à partir d'images préalablement manipulées, la confiance dans les faux souvenirs s'est révélée environ 1,19 fois supérieure à celle du groupe témoin. Autrement dit, l'IA ne semble pas seulement augmenter la probabilité de se souvenir de quelque chose qui n'existait pas. Elle peut aussi renforcer la conviction que ce souvenir est authentique.
Le problème ne se limite pas aux deepfakes
L'étude met en évidence une distinction intéressante. Un deepfake construit généralement un contenu entièrement artificiel, ce qui peut éveiller un certain degré de méfiance chez le spectateur. Une retouche par IA, elle, part de quelque chose d'authentique. Une photographie réelle est modifiée de façon parfois minime : une personne effacée, un détail ajouté, un décor légèrement transformé.
C'est précisément cette continuité avec l'original qui pourrait la rendre particulièrement insidieuse.
Il ne s'agit plus seulement de falsification de l'information présente, mais d'une possible altération rétroactive de la représentation du passé. Les auteurs vont jusqu'à observer que les systèmes génératifs pourraient influencer non seulement la mémoire individuelle, mais aussi la mémoire collective et la reconstruction d'événements sociaux ou historiques.
Les conséquences potentielles sont évidentes : témoignages judiciaires, information politique, documentation journalistique, archives familiales, réseaux sociaux.
Mais il existe aussi l'autre face du problème, et c'est probablement le point scientifiquement le plus intéressant de ce travail.
Si une représentation artificielle peut contribuer involontairement à la formation d'un faux souvenir, pourrions-nous utiliser délibérément ce même mécanisme pour modifier le poids émotionnel attaché au souvenir d'une expérience ?
Les auteurs prennent cette possibilité au sérieux. Ils parlent explicitement de therapeutic memory reframing : l'intelligence artificielle pourrait être utilisée, sous supervision professionnelle, pour modifier des éléments associés à des souvenirs traumatiques et favoriser la construction d'associations émotionnellement moins perturbantes. Parmi les domaines d'application évoqués figurent le TSPT, les phobies et les troubles anxieux. Une image liée à un épisode douloureux pourrait, par exemple, être progressivement réinterprétée à travers différentes versions visuelles.
Il ne s'agirait pas nécessairement d'« effacer » un souvenir. Il pourrait plutôt s'agir d'intervenir sur la façon dont ce souvenir est reconstruit et sur le sens émotionnel qui lui est attribué. Et c'est précisément là que la frontière entre technologie, neurosciences, psychologie et éthique devient très ténue.
De la correction d'une image à la conception de l'expérience mnésique
L'article ne démontre pas qu'il soit possible d'implanter arbitrairement des souvenirs autobiographiques complexes. Cette distinction est essentielle. L'expérience porte en effet sur le souvenir de détails visuels observés quelques minutes auparavant, dans un cadre expérimental contrôlé. Elle ne démontre pas qu'un système puisse créer artificiellement toute une expérience autobiographique, ni remplacer durablement un souvenir consolidé.
Les chercheurs eux-mêmes reconnaissent plusieurs limites : exposition brève, seulement 200 participants américains, à peine 24 images prédéfinies, et absence de photographies personnelles des sujets. Ils appellent donc à des études longitudinales, à l'utilisation de souvenirs personnels, à des expérimentations plus naturalistes et à une analyse portant aussi sur des contenus textuels et sonores.
Mais c'est précisément cette limite qui rend la question suivante si intéressante.
Non plus seulement :
« Un contenu synthétique peut-il altérer un souvenir ? »
Les données commencent à suggérer que oui.
La question suivante devient :
« Est-il possible de concevoir de façon contrôlée, mesurable et réversible cette interaction entre contenu artificiel et mémoire humaine ? »
Cela signifie passer de la génération d'images à la conception de systèmes capables d'observer la réponse de l'individu, d'adapter progressivement le stimulus et de mesurer l'évolution de sa représentation mnésique.
C'est une frontière de recherche très différente de la simple IA générative.
Le problème décisif sera l'éthique
Les auteurs se montrent très prudents sur ce point. Une technologie capable, ne serait-ce que d'influencer la reconstruction des souvenirs, touche directement à l'autonomie individuelle, à l'identité personnelle, au consentement éclairé et à l'intégrité de l'expérience autobiographique. Pour les mêmes raisons qui pourraient lui conférer une valeur thérapeutique, elle pourrait avoir des applications extrêmement problématiques.
Qui décide quel souvenir doit être modifié ? Jusqu'à quel point est-il légitime d'atténuer les éléments négatifs d'une expérience ? Comment préserver la distinction entre ce qui s'est réellement produit et ce qui a été reconstruit par la suite ? Et surtout : qui détient le droit d'intervenir sur la mémoire d'une autre personne ?
L'étude souligne explicitement la nécessité de transparence, de consentement éclairé, de protections contre un usage politique ou personnel abusif, de protection de la vie privée et de supervision professionnelle dans les éventuelles applications thérapeutiques.
Ce sont des questions qui ne pourront probablement pas être résolues par les seuls ingénieurs. Elles nécessiteront des psychologues cognitifs et cliniciens, des neuroscientifiques, des experts en Human-Computer Interaction, des juristes, des bioéthiciens et des spécialistes de l'intelligence artificielle.
Une nouvelle discipline n'en est peut-être qu'à ses débuts
Pendant longtemps, nous avons pensé l'intelligence artificielle comme une technologie capable de produire de l'information. Puis nous avons commencé à la considérer comme une technologie capable de produire des expériences. Les travaux de Pataranutaporn et de ses collègues suggèrent une étape supplémentaire : les expériences générées artificiellement peuvent interférer avec la façon dont nous reconstruisons les expériences réelles. Cela ne signifie pas que nous disposons déjà d'une technologie permettant de programmer la mémoire humaine. Cela signifie quelque chose de peut-être plus important encore d'un point de vue scientifique : nous disposons d'une première preuve expérimentale que l'interaction entre l'IA générative et la mémoire peut être mesurée. Or, quand un phénomène devient mesurable, il peut devenir l'objet d'une recherche systématique. Pour ceux qui travaillent à l'intersection de l'intelligence artificielle, du comportement et de la cognition, il est aujourd'hui difficile d'imaginer un terrain de recherche plus délicat.
Ou plus passionnant.
Source : Pataranutaporn P., Archiwaranguprok C., Chan S.W.T., Loftus E., Maes P., « Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection », CHI Conference on Human Factors in Computing Systems, 2025.
Analytiko · 28 août 2026