MNEMOS · Intelligence layer

Was künstliche Intelligenz
wirklich tut.

Der am häufigsten missverstandene Teil des Projekts. Keine Technologie liest den Inhalt einer Erinnerung: hier dient die KI dazu, zu wählen, was wann gezeigt wird, und zu erkennen, ob sich wirklich etwas verändert hat.

Beginnen wir
mit dem, was sie nicht tut.

Die Grenzen zuerst zu benennen ist keine Bescheidenheit. Es ist das, was alles Übrige überprüfbar macht: ist der Rahmen klar, lässt sich jede Aussage darin auf die Probe stellen.

Vier Dinge, die Systemen wie diesem zugeschrieben werden und die weder heute noch in einer vernünftig absehbaren künftigen Fassung zutreffen.

TUT NICHT / 01

Eine Erinnerung lesen

Keine Technologie decodiert den Inhalt einer autobiografischen Erinnerung. Die derzeit klinisch untersuchten neuronalen Schnittstellen lesen Bewegungsabsichten aus dem motorischen Kortex — ein anderes Signal in einem anderen Areal. Der Abstand ist kein gradueller, sondern ein grundsätzlicher.

TUT NICHT / 02

Feststellen, ob eine Erinnerung wahr ist

Das Modell kennt, was die Person erzählt hat, nicht was geschehen ist. Innere Stimmigkeit als Wahrheitsbeweis zu behandeln wäre ein schwerer methodischer Fehler und in einem sensiblen Kontext auch ein Schaden.

TUT NICHT / 03

Entscheiden, was jemand fühlen soll

Das Ziel des Eingriffs wählt die Person. Ein System, das auf einen von anderen bestimmten affektiven Zustand hin optimiert, wäre keine Gedächtnisforschung: es wäre eine Konditionierungstechnologie, und genau das schließen wir aus.

TUT NICHT / 04

Klinisches Urteil ersetzen

Keine Phase ist dafür gedacht, ohne fachkundige menschliche Aufsicht zu laufen. Die Engine schlägt vor, ein Mensch entscheidet, und die Entscheidung bleibt im Nachhinein prüfbar.

INTELLIGENCE LAYER

Der Engpass
ist ein Problem
der Parameter.

Die Literatur zur Rekonsolidierung steht nicht still, weil eine Theorie fehlte. Sie steht still, weil die Bedingungen, die das Fenster öffnen, schmal, individuell und von außen nicht beobachtbar sind.

Welches Signal zur Reaktivierung genutzt wird. Wie viel Abweichung vom Erwarteten eingeführt wird. Wie alt diese Erinnerung ist, wie stark, wie oft sie schon abgerufen wurde. In Studien werden diese Parameter mit groben Heuristiken festgelegt, für alle Teilnehmenden gleich — und dann wundert man sich über heterogene Ergebnisse.

Genau das ist die Art von Problem, zu der ein individuelles statistisches Modell etwas beizutragen hat. Nicht weil es intelligent wäre: weil es mehr Variablen pro Person zusammenhalten kann, als ein von Hand geschriebenes Protokoll trägt.

01 / PERSONALISIERUNG

Die Abweichung kalibrieren

Für diese Person und diese Erinnerung schätzen, welcher Abruf genug Überraschung erzeugt, um zu destabilisieren, ohne eine neue Erinnerung daneben zu bilden. Das ist heute die am schlechtesten kontrollierte Variable der gesamten Literatur.

02 / ZUSTANDSSCHÄTZUNG

Erkennen, ob sich das Fenster geöffnet hat

Direkt beobachten lässt sich das nicht. Beobachtbar sind aber Antwortlatenzen, Zögern, die Struktur der Sprache, physiologische Signale: daraus eine probabilistische Schätzung des Systemzustands, ausdrücklich mit Unsicherheit versehen.

03 / KAUSALINFERENZ

Die Mechanismen trennen

Aktualisierung, Extinktion, Gewöhnung, Placebo, Gefälligkeit gegenüber der Versuchsleitung, Regression zur Mitte. Ohne sie zu trennen, ist jedes positive Ergebnis von einem Artefakt nicht zu unterscheiden. Das ist der unspektakulärste und zugleich entscheidende Teil.

04 / SIMULATION

Protokolle in silico suchen

Ein Rechenmodell des Gedächtnisses erlaubt es, tausende Kombinationen von Cues, Zeitpunkten und Inhalten zu erkunden, bevor eine davon einem Menschen vorgeschlagen wird. Das verkleinert den Suchraum und verlagert das Risiko vom Menschen auf die Rechenleistung.

05 / HETEROGENITÄT

Unterschiede als Struktur lesen

Dass Studien auseinandergehen, muss kein Rauschen sein. Es könnte Untergruppen mit unterschiedlicher Dynamik geben. Sie zu finden verlangt individuelle Längsschnittdaten und Modelle, die nicht sofort mitteln.

06 / NACHVOLLZIEHBARKEIT

Jede Entscheidung prüfbar machen

Jeder vorgeschlagene Cue, jeder integrierte Inhalt, jede Entscheidung der Engine bleibt protokolliert und zurechenbar. Ohne das gibt es weder wissenschaftliche Prüfung noch echte informierte Einwilligung.

Memory graph

Der Gedächtniszwilling
ist ein Modell der Erzählung.

Die Repräsentation, die wir bauen, ist ein zeitlicher Graph aus Personen, Orten, Episoden, benannten Emotionen und Widersprüchen, gespeist allein aus dem, was die Person bestätigt hat.

Es ist keine Kopie ihres Gedächtnisses, und es ist wichtig, sie auch der Einfachheit halber nicht so zu nennen. Es ist ein Modell davon, wie diese Person ihr Gedächtnis zu einem bestimmten Zeitpunkt erzählt, mit allen Auslassungen und Umschreibungen, die eine Erzählung mit sich bringt.

Das macht es weniger faszinierend und weit nützlicher: Widersprüche sind keine zu korrigierenden Fehler, sie sind Signal. Sie sind die Stellen, an denen die Erzählung instabil ist, und damit die natürlichen Kandidaten, um zu verstehen, wo ein Spielraum besteht.

Die architektonische Bedingung: keine geschlossene Schleife ohne einen Menschen darin

Eine adaptive Engine, die Cues und Inhalte innerhalb vorgegebener Grenzen auswählt, ist technisch ein System des bestärkenden Lernens unter Nebenbedingungen. Die ingenieurtechnische Versuchung besteht darin, die Schleife zu schließen und sie optimieren zu lassen. Genau das werden wir nicht tun. Nicht aus formaler Vorsicht, sondern weil sich das zu optimierende Ziel in dieser Domäne nicht messen lässt, ohne den Menschen zu fragen, der es erlebt. Ein System, das einen affektiven Indikator maximiert, fände Abkürzungen, die niemand wollte — und fände sie schneller, als wir es bemerken würden.

Die offenen Fragen, als solche benannt.

  1. Wie gut sich das Fenster schätzen lässtGibt es äußere Korrelate, die informativ genug sind, um eine destabilisierende Reaktivierung von einem bloßen Abruf zu unterscheiden? Niemand weiß es. Das ist als Erstes zu prüfen, und die Antwort kann nein lauten.
  2. Ob das Modell über Personen hinweg generalisiertSagt ein an einer Person kalibriertes Modell etwas über eine andere aus, oder ist jeder Fall ein eigener? Davon hängt ab, ob die Forschung skaliert oder handwerklich bleibt.
  3. Was mit benachbarten Erinnerungen geschiehtBleibt eine Aktualisierung lokal oder überträgt sie sich auf assoziierte Erinnerungen? Das ist eine wissenschaftliche Frage und zugleich das ernsteste Sicherheitsthema des Projekts.
  4. Wie lange es anhältViele in der Literatur berichtete Effekte schwächen sich mit der Zeit ab. Eine Veränderung, die nach drei Wochen verschwindet, ist kein Ergebnis, sondern eine Episode.
EIN HINWEIS ZUM WORTSCHATZ

In dieser Domäne richten Wörter Schaden an. „Überschreiben“, „Löschen“ und „Einfügen“ beschreiben keine heute verfügbaren Fähigkeiten. Das kontrollierte Einfügen neuer Gedächtnisspuren ist gleichwohl die erklärte Grenze von MNEMOS: reaktivieren, integrieren, restabilisieren und messen sind die beobachtbaren Vorgänge, von denen aus zu klären ist, ob sie möglich werden kann. Die Daten werden bestimmen, wie weit sich dieser Wortschatz in eine reale Fähigkeit übersetzen lässt.

Weiter in Die Richtungen · Zurück zu MNEMOS

Der schwierige Teil
ist nicht das Modell.

Es ist der Nachweis, dass eine beobachtete Veränderung tatsächlich die gesuchte Wirkung ist. Die Erkundungsrichtungen, der translationale Weg und die ethische Grenze stehen auf der nächsten Seite.

Die Richtungen →