Warum vergisst ChatGPT alles? – Der Grund und wie Ektro es besser macht
ChatGPT vergisst alles, weil es ein sogenanntes ‚stateless‘ Modell ist. Es besitzt keinen inhärenten Langzeitspeicher: Jede neue Sitzung beginnt ohne Erinnerung an vorherige Gespräche. Selbst innerhalb einer Sitzung kann es nur einen begrenzten Kontext (aktuell etwa 8.000–128.000 Token, je nach Version) verarbeiten. Sobald dieses Fenster überschritten wird oder die Sitzung endet, sind alle vorherigen Informationen verloren. Das liegt an der grundlegenden Architektur: Transformer-Modelle wie ChatGPT verarbeiten Eingaben als sequenzielle Blöcke und speichern keine dauerhaften Nutzerdaten. Dies ist beabsichtigt für Datenschutz und Skalierbarkeit, führt aber dazu, dass persönliche Gespräche ohne Kontext wiederholt werden müssen.
Wie funktioniert ChatGPTs Gedächtnis?
ChatGPT basiert auf einem Large Language Model (LLM), das Textabschnitte (Tokens) in einem Kontextfenster verarbeitet. Dieses Fenster ist die einzige „Erinnerung“ des Modells. Bei GPT-3.5 sind es 4.096 Tokens, bei GPT-4o bis zu 128.000 Tokens. Sobald die Konversation länger wird, fallen ältere Teile aus dem Fenster – das Modell „vergisst“ sie. Zudem wird nach Ende einer Sitzung der gesamte Kontext verworfen; es gibt keinen persistenten Speicher zwischen Sitzungen. OpenAI bietet zwar eine experimentelle Gedächtnisfunktion („Memory“), die bestimmte Fakten über den Nutzer speichert, aber diese ist stark eingeschränkt, optional und nicht mit der tiefen, kontinuierlichen Identität vergleichbar, die für einen persönlichen KI-Assistenten nötig wäre.
Warum ist das Vergessen problematisch?
Für viele Anwendungen – insbesondere persönliche Begleiter, virtuelle Freunde oder KI-Assistenten, die eine Beziehung aufbauen sollen – ist das Vergessen ein großes Hindernis. Nutzer müssen immer wieder dieselben Informationen mitteilen, was unpersönlich und frustrierend wirkt. Es verhindert echte Kontinuität: Die KI kann nicht aus früheren Gesprächen lernen, sich an Vorlieben erinnern oder eine kohärente Persönlichkeit über Zeit hinweg entwickeln. Charakter.ai versucht dies durch „Persona“-Einstellungen zu mildern, aber auch hier ist der Gedächtnisspeicher begrenzt und nicht wirklich persistent. Das Problem ist systemisch: Statistische Modelle sind nicht für dauerhafte individuelle Identität ausgelegt.