Wir sind es gewohnt, über generative KI vor allem im Hinblick auf die Wahrhaftigkeit von Inhalten zu sprechen: Ist eine Fotografie authentisch, oder wurde sie verändert? Zeigt ein Video tatsächlich etwas, oder ist es synthetisch erzeugt?
Die Frage, die eine Gruppe von Forschenden des MIT Media Lab, der University of the Thai Chamber of Commerce und der University of California Irvine aufwirft, geht radikaler vor: Was geschieht mit unserer Erinnerung, nachdem wir eine von KI veränderte Version von etwas gesehen haben, das wir bereits kannten?
Die Arbeit, Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection, wurde im Rahmen der CHI Conference on Human Factors in Computing Systems 2025 veröffentlicht. Zu den Autoren zählt auch Elizabeth Loftus, eine der weltweit führenden Forscherinnen zur Formbarkeit des Gedächtnisses.
Das experimentelle Ergebnis ist eindeutig: Die Konfrontation mit KI-veränderten Bildern erhöht die Wahrscheinlichkeit, dass eine Person sich an Details erinnert, die im Originalbild gar nicht vorhanden waren. Und der Effekt wird noch stärker, wenn diese Bilder in Videos umgewandelt werden.
Erinnerung ist keine Aufzeichnung
Das Ergebnis überrascht die kognitive Psychologie weniger, als man annehmen könnte. Das menschliche Gedächtnis funktioniert nicht wie ein Archiv, in dem ein Ereignis ein für alle Mal gespeichert und später unverändert abgerufen wird. Sich erinnern bedeutet, zumindest teilweise, zu rekonstruieren. Die Forschung zu falschen Erinnerungen zeigt seit Jahrzehnten, dass suggestive Fragen, nachträglich erhaltene Informationen und manipulierte Fotografien die Erinnerung einer Person an das Erlebte verändern können.
Der Sprung, den KI hier bewirkt, ist vor allem quantitativer und technologischer Natur. Eine fotografische Manipulation, die früher Können, Zeit und bewusste Absicht erforderte, lässt sich heute automatisch, in wenigen Sekunden und mit einem sehr hohen Grad an Realismus erzeugen. Genau diesen Wandel betonen die Autoren: KI macht die Veränderung unserer „externalisierten Erinnerungen" — der Fotos und Videos, auf die wir uns beim Erinnern stützen — erheblich zugänglicher und leichter skalierbar.
Dabei dient eine Fotografie nicht einfach nur dazu, einen Moment festzuhalten. Jedes Mal, wenn wir sie erneut betrachten, kann sie dazu beitragen, diesen Moment zu rekonstruieren.
Das Experiment
Die Forschenden führten eine präregistrierte Studie mit 200 Teilnehmenden durch, die zufällig auf vier Gruppen verteilt wurden. Alle betrachteten zunächst 24 Originalfotografien. Nach einer kurzen Ablenkungsaufgabe wurde jede Gruppe mit einer anderen Bedingung konfrontiert:
- unveränderte Originalfotografien;
- durch KI veränderte Fotografien;
- KI-generierte Videos auf Basis der Originalfotografien;
- KI-generierte Videos auf Basis der zuvor durch KI veränderten Fotografien.
Die Veränderungen betrafen Personen, Objekte und Umgebung: Sie konnten den Gesichtsausdruck oder die ethnische Zugehörigkeit einer Person oder die Tageszeit verändern, Elemente aus der Umgebung entfernen oder Objekte wie ein Militärfahrzeug hinzufügen. Anschließend wurden die Teilnehmenden gebeten, sich an die Originalbilder zu erinnern, nicht an die manipulierten.
Und genau hier zeigt sich das zentrale Ergebnis.
KI kann „umschreiben", woran wir uns erinnern
Im Vergleich zur Kontrollgruppe erzeugten die durch KI veränderten Fotografien 1,67-mal mehr falsche Erinnerungen. Die aus unveränderten Fotografien generierten Videos führten zu einem moderateren Anstieg von etwa dem 1,25-Fachen. Am stärksten wirkte jedoch die Bedingung, bei der eine Fotografie zunächst durch KI verändert und anschließend in ein generatives Video umgewandelt wurde: In diesem Fall lag die Zahl der falschen Erinnerungen beim 2,05-Fachen der Kontrollgruppe. Dabei verändert sich nicht nur das Ausmaß des Fehlers.
Es verändert sich auch etwas psychologisch weit Bedeutsameres: die Sicherheit, mit der der Fehler erinnert wird. In der Gruppe, die Videos aus zuvor manipulierten Bildern sah, war das Vertrauen in die falschen Erinnerungen rund 1,19-mal höher als in der Kontrollgruppe. Mit anderen Worten: KI scheint nicht nur die Wahrscheinlichkeit zu erhöhen, sich an etwas zu erinnern, das es nie gab. Sie kann auch die Überzeugung verstärken, dass diese Erinnerung echt ist.
Das Problem sind nicht nur Deepfakes
Die Studie zeigt einen aufschlussreichen Unterschied. Ein Deepfake erzeugt typischerweise einen vollständig künstlichen Inhalt und kann beim Betrachter dadurch ein gewisses Maß an Misstrauen wecken. Ein KI-Edit hingegen geht von etwas Authentischem aus. Eine echte Fotografie wird mitunter nur minimal verändert: eine Person entfernt, ein Detail hinzugefügt, eine Umgebung leicht verändert.
Gerade diese Kontinuität zum Original könnte sie besonders tückisch machen.
Es geht nicht mehr nur um die Verfälschung gegenwärtiger Information, sondern um die mögliche rückwirkende Veränderung der Darstellung der Vergangenheit. Die Autoren gehen sogar so weit zu beobachten, dass generative Systeme nicht nur das individuelle, sondern auch das kollektive Gedächtnis und die Rekonstruktion sozialer oder historischer Ereignisse beeinflussen könnten.
Die möglichen Folgen liegen auf der Hand: Zeugenaussagen vor Gericht, politische Berichterstattung, journalistische Dokumentation, Familienarchive, soziale Netzwerke.
Es gibt jedoch auch die andere Seite des Problems, und sie ist wahrscheinlich der wissenschaftlich interessanteste Teil der Arbeit.
Wenn eine künstliche Darstellung unbeabsichtigt zur Entstehung einer falschen Erinnerung beitragen kann, ließe sich derselbe Mechanismus dann bewusst nutzen, um das emotionale Gewicht zu verändern, mit dem eine Erfahrung erinnert wird?
Die Autoren nehmen diese Möglichkeit ernst. Sie sprechen ausdrücklich von therapeutic memory reframing: Künstliche Intelligenz könnte unter professioneller Aufsicht eingesetzt werden, um Elemente traumatischer Erinnerungen zu verändern und die Bildung emotional weniger belastender Assoziationen zu fördern. Zu den genannten möglichen Anwendungsfeldern zählen PTBS, Phobien und Angststörungen. Ein Bild, das mit einem schmerzhaften Ereignis verknüpft ist, könnte beispielsweise schrittweise durch unterschiedliche visuelle Fassungen neu gedeutet werden.
Dabei ginge es nicht zwangsläufig darum, eine Erinnerung zu „löschen". Es könnte vielmehr darum gehen, einzugreifen, wie diese Erinnerung rekonstruiert wird und welche emotionale Bedeutung ihr zugeschrieben wird. Und genau hier wird die Grenze zwischen Technologie, Neurowissenschaft, Psychologie und Ethik sehr schmal.
Von der Bildkorrektur zur Gestaltung der Gedächtniserfahrung
Das Paper zeigt nicht, dass es möglich ist, beliebig komplexe autobiografische Erinnerungen zu implantieren. Diese Unterscheidung ist entscheidend. Das Experiment betrifft nämlich die Erinnerung an visuelle Details, die wenige Minuten zuvor in einem kontrollierten Versuchsumfeld beobachtet wurden. Es zeigt nicht, dass ein System künstlich eine ganze autobiografische Erfahrung erzeugen oder eine gefestigte Erinnerung dauerhaft ersetzen könnte.
Die Forschenden selbst räumen mehrere Einschränkungen ein: kurze Expositionsdauer, nur 200 US-amerikanische Teilnehmende, lediglich 24 vorgegebene Bilder und das Fehlen persönlicher Fotografien der Probanden. Sie fordern daher Längsschnittstudien, den Einsatz persönlicher Erinnerungen, naturalistischere Experimente sowie Analysen, die auch Text- und Audioinhalte einbeziehen.
Doch gerade diese Einschränkung macht die nächste Frage so interessant.
Nicht mehr nur:
„Kann synthetischer Inhalt eine Erinnerung verändern?"
Die Daten beginnen, dies nahezulegen.
Die nächste Frage lautet:
„Lässt sich diese Interaktion zwischen künstlichem Inhalt und menschlichem Gedächtnis kontrolliert, messbar und reversibel gestalten?"
Das bedeutet den Übergang von der Bilderzeugung zur Entwicklung von Systemen, die in der Lage sind, die Reaktion einer Person zu beobachten, den Stimulus schrittweise anzupassen und die Entwicklung ihrer mnestischen Repräsentation zu messen.
Das ist ein Forschungsfeld, das sich grundlegend von einfacher generativer KI unterscheidet.
Die entscheidende Frage wird die Ethik sein
Die Autoren sind in diesem Punkt sehr vorsichtig. Eine Technologie, die schon allein die Rekonstruktion von Erinnerungen beeinflussen kann, berührt unmittelbar die individuelle Autonomie, die persönliche Identität, die informierte Einwilligung und die Integrität der autobiografischen Erfahrung. Aus denselben Gründen, aus denen sie therapeutischen Wert haben könnte, könnte sie auch äußerst problematische Anwendungen ermöglichen.
Wer entscheidet, welche Erinnerung verändert werden soll? Wie weit darf man die negativen Elemente einer Erfahrung abmildern? Wie lässt sich die Unterscheidung zwischen dem, was tatsächlich geschehen ist, und dem, was später rekonstruiert wurde, bewahren? Und vor allem: Wer besitzt das Recht, in die Erinnerung eines anderen Menschen einzugreifen?
Die Studie verweist ausdrücklich auf die Notwendigkeit von Transparenz, informierter Einwilligung, Schutz vor politischem oder persönlichem Missbrauch, Schutz der Privatsphäre und professioneller Aufsicht bei etwaigen therapeutischen Anwendungen.
Das sind Fragen, die sich wahrscheinlich nicht allein von Ingenieuren lösen lassen. Sie erfordern kognitive und klinische Psychologen, Neurowissenschaftler, Fachleute für Human-Computer Interaction, Juristen, Bioethiker und KI-Spezialisten.
Eine neue Disziplin steht vielleicht erst am Anfang
Viele Jahre lang haben wir Künstliche Intelligenz als eine Technologie betrachtet, die Informationen hervorbringen kann. Dann begannen wir, sie als eine Technologie zu betrachten, die Erfahrungen hervorbringen kann. Die Forschung von Pataranutaporn und Kollegen legt einen weiteren Schritt nahe: Künstlich erzeugte Erfahrungen können sich auf die Art auswirken, wie wir reale Erfahrungen rekonstruieren. Das bedeutet nicht, dass wir bereits über eine Technologie verfügen, mit der sich das menschliche Gedächtnis programmieren ließe. Es bedeutet etwas, das aus wissenschaftlicher Sicht vielleicht noch bedeutsamer ist: Wir verfügen über einen ersten experimentellen Beleg dafür, dass sich die Wechselwirkung zwischen generativer KI und Gedächtnis messen lässt. Und sobald ein Phänomen messbar wird, kann es zum Gegenstand systematischer Forschung werden. Für alle, die an der Schnittstelle von Künstlicher Intelligenz, Verhalten und Kognition arbeiten, ist es heute schwer, sich ein heikleres Forschungsgebiet vorzustellen.
Oder ein interessanteres.
Quelle: Pataranutaporn P., Archiwaranguprok C., Chan S.W.T., Loftus E., Maes P., „Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection", CHI Conference on Human Factors in Computing Systems, 2025.
Analytiko · 28. August 2026