Alte Chats, neue Probleme: Was Sie über ChatGPTs "Gedächtnis" wissen sollten
Über die Personalisierung von der KI-Nutzung, die "Memory"-Funktionen von Chatbots und die unterschätzte Kunst der Chat-Hygiene
Vor einigen Monaten ist mir vor einer Gruppe von 15 Leuten etwas Peinliches passiert: Ich wollte etwas in ChatGPT vorzeigen und es ist komplett schiefgegangen.
Ich halte mehrmals wöchentlich KI-Schulungen ab. In vielen davon zeige ich die Erinnerungsfunktionen von ChatGPT vor. Fast immer verwende ich dafür dasselbe Beispiel: Ich erzähle ChatGPT, dass ich eine tödliche Nussallergie hätte. Das Modell speichert das ab. Dann bitte (in einem neuen Chat) ich um ein Rezept für Nussschnecken – und ChatGPT weigert sich, mir eines zu geben. Stattdessen schlägt es eine nussfreie Alternative vor. Beeindruckend, oder? [Vielleicht ist das Ganze nur beeindruckend, wenn man weiß, dass Chatbots eigentlich nur den einen Chat, in dem man sich befindet, als Kontext heranziehen, um eine passende Antwort zu generieren. Wenn die Funktionen, die wir uns in diesem Post ansehen, nicht aktiviert sind, dann hat Chat A keinen Zugriff auf Chat B. Die linke Hand von ChatGPT weiß also nicht, was die rechte macht.]
Während dieses Beispiel bei einem Kurs am Dienstag wunderbar funktioniert hat, ging dasselbe Beispiel bei einer anderen Gruppe am Mittwoch schief: ChatGPT hat mir ein Rezept ausgegeben. Mit Nüssen. Und das, obwohl ich alles gleich gemacht habe.
Auf meine (gespielt empörte) Nachfrage hin kam von ChatGPT die Antwort: „Ja, ich habe gespeichert, dass du eine tödliche Nussallergie hast. Aber du hast mir gestern in einem anderen Chat erzählt, dass das ein Schmäh war.” (Für meine Leser:innen außerhalb von Österreich: Ein Schmäh ist österreichisch für Scherz oder Witz.)
Die Erinnerung am Dienstag löschte ich mit dem Hinweis, dass es ein Schmäh war. Und so hat ChatGPT es vergessen – zumindest dachte ich das. Am Mittwoch habe ich die Allergie wieder abspeichern lassen. Doch weil ich den ersten Chat nicht gelöscht hatte, gab es in meinem Profil einen Widerspruch: Die gespeicherten Erinnerungen meinten, ich hätte eine Allergie. Die gespeicherten Chats meinten, das wäre gelogen. ChatGPT hat sich, als ich dann um ein Rezept gebeten habe, für die zweite Version entschieden.
Das ist jedoch kein Bug. Das ist ein Feature. Und genau deshalb müssen wir über Chat-Hygiene reden.
Was ist Chat-Hygiene?
Mit Chat-Hygiene meine ich, dass Sie – wenn Sie Memory-Funktionen von Chatbots nutzen – vorsichtig sein sollten, welche Erinnerungen Sie hinterlegen und welche Chats Sie behalten. Das meine ich hier nicht primär aus einer Datenschutz-Perspektive (obwohl das natürlich auch wichtig ist). Ich meine das aus einer praktischen Perspektive: Alte Informationen können zu unerwarteten, unerwünschten oder schlicht falschen Ergebnissen führen.
Stellen Sie sich folgende Situation vor: In einem meiner Kurse lasse ich beispielhaft eine Gute-Nacht-Geschichte für meine (fiktive) Tochter erstellen. Den Chat vergesse ich zu löschen. Morgen frage ich nach einem Rezept für eine Frittatensuppe und ChatGPT antwortet: “Ich hoffe, die Suppe schmeckt deiner Tochter!” – während meine Partnerin über meine Schulter blickt und fragt: “Welche Tochter?!”
Um zu verstehen, warum das passiert, müssen wir uns ansehen, wie die Personalisierung in ChatGPT funktioniert. Dazu gleich mehr – aber zuerst: Wo finden Sie diese Einstellungen überhaupt?
Wo finde ich die Personalisierungseinstellungen?
Die meisten KI-Chatbots bieten bis zu vier Arten der Personalisierung:
Konkrete Filter oder Auswahlmöglichkeiten, die die “Persönlichkeit” des Chatbots anpassen. Je nach Einstellung wird der Systemprompt, den das Modell vom Entwickler erhält, modifiziert.
Instruktionen für das Modell, also Prompts, die dem Modell auf globaler Ebene mitgegeben werden – gültig für alle Ihre Chats. Das fungiert wie ein “Systemprompt” von Nutzer:innenseite. (Die Modelle erhalten auch von den Entwicklern einen Systemprompt, der vorgibt, wie sie sich zu verhalten haben – z. B. als hilfreicher Assistent – und worüber sie nicht schreiben dürfen, z. B. darf ChatGPT den Songtext von Helene Fischers “Atemlos” nicht ausgeben.)
Individuelle Hinweise zur eigenen Person, also z. B. den Spitznamen, mit dem man angesprochen werden möchte, oder Informationen zum eigenen Beruf, zu Hobbys oder zu Werten.
Memory-Funktionen, bei denen das Modell Informationen langfristig speichern kann, damit es nicht auf die Informationen eines einzelnen Chats angewiesen ist.
Bei ChatGPT finden Sie all das unter den Personalisierungseinstellungen. Klicken Sie dazu auf Ihr Profil-Icon links unten in der Seitenleiste:
Danach klicken Sie dort auf “Personalisierung”:
Natürlich haben auch andere Chatbots diese oder ähnliche Funktionen. Am besten sehen Sie dort einfach in den Einstellungen nach, was möglich ist. Ich zeige es hier am Beispiel von ChatGPT vor, aber bei Gemini, Claude und Perplexity ist es meist ähnlich.
Chatbot-Persönlichkeit
Dort angekommen sehen Sie zuerst die “statischen” Personalisierungsfunktionen - also Eigenschaften, die Sie auswählen und solange gültig sind, bis Sie diese ändern. Ich persönlich wähle hier beim Basisstil “Professionell” aus, da ich ChatGPT vor allem für berufliche Zwecke einsetze. Bei den Eigenschaften habe ich alles auf “Weniger” eingestellt. Das liegt daran, dass ChatGPT zu freundlich und schleimerhaft für meinen Geschmack ist. Dieses Phänomen ist auch bekannt als “sycophancy problem”.
Individuelle Hinweise
Weiter unten finden Sie die individuellen Hinweise – also den Prompt, den Ihr ChatGPT in jedem neuen Chat beachtet. Bei mir stehen dort unter anderem folgende Dinge:
Wenn du ein von mir bereitgestelltes Dokument nicht verarbeiten oder auf einen von mir geteilten Link nicht zugreifen kannst (z. B. wegen einer robots.txt-Datei), dann teile mir das mit, anstatt Informationen zu erfinden.
Diese Instruktion dient dazu, Halluzinationen zu reduzieren. Viele Websites verweigern KI-Modellen den Zugriff. Anstatt das ehrlich zuzugeben, erfindet das Modell häufig eine plausibel klingende Antwort – oder findet im Fall von Zeitungsartikeln Artikel von anderen Zeitungen, die Sie vielleicht gar nicht wollten. Und zwar, ohne Ihnen dies zu sagen.
Stimme nicht immer mit dem überein, was ich sage. Versuche, mir so oft wie möglich zu widersprechen.
Diese Instruktion hilft, weil viele Modelle (vor allem ChatGPT) dazu tendieren, uns immer zu loben – egal wie fragwürdig unsere Idee ist. Allerdings: Wie gut das funktioniert, hängt stark vom jeweiligen Modell ab. Bei manchen Modellversionen musste ich diesen Teil vorübergehend entfernen, weil das Modell Instruktionen so gut befolgte, dass es mühsam wurde und ständig Streit suchte. Ich: “ChatGPT, gib mir ein Rezept für eine Frittatensuppe.” ChatGPT: “Ach, wie langweilig. Hast du schon mal eine Grießnockerlsuppe probiert?”
Ich passe meine individuellen Hinweise daher regelmäßig für neue oder andere Modelle (z. B. Claude) an. Was bei einem Modell gut funktioniert, kann bei einem anderen übertrieben oder wirkungslos sein.
Falls Sie mehr über effektive Instruktionen erfahren möchten: In meinem Artikel “KI versteht Sie nicht – und das liegt an Ihnen” gehe ich auf grundlegende Prompting-Prinzipien ein, die auch für individuelle Hinweise relevant sind.
Informationen zur eigenen Person: “Über Dich”
Unter den individuellen Hinweisen gibt es noch die “Über Dich"-Einstellung. Hier können Sie dem Modell einige Informationen über sich geben: Mit welchem Namen Sie angesprochen werden wollen, welchen Beruf Sie ausüben und welche Interessen oder Hobbys Sie haben. Was Sie hier der KI preisgeben wollen, ist Ihnen überlassen. Ich beispielsweise habe das Feld “Beruf” ausgefüllt, damit der Chatbot immer berücksichtigt, dass ich Pädagoge und Autor bin und mich mit Generativer KI beschäftige.
Erinnerungen: Der dynamische Teil
Jetzt kommen wir zum Kern – den dynamischen Einstellungen, also der Erinnerung (“Memory”). Wenn Sie diese Funktion aktiviert haben, erscheinen zwei verschiedene Optionen:
Gespeicherte Erinnerungen berücksichtigen: Das Modell darf sich laufend relevante Dinge über Sie abspeichern. Hat es sich beispielsweise gemerkt, dass Frittatensuppe Ihr Lieblingsessen ist, wird es Ihnen in Zukunft vielleicht öfter eine Frittatensuppe vorschlagen.
Chatverlauf berücksichtigen: Das Modell darf in dem aktuellen Chat auf vergangene Chats zugreifen. Haben Sie gestern bereits nach einem Rezept für eine Frittatensuppe gefragt und tun das heute in einem neuen Chat wieder, könnte das Modell fragen: “Hat dir das Rezept von gestern etwa nicht geschmeckt?”
Unter der Option “Verwalten" können Sie alle Erinnerungen sehen, die ChatGPT über Sie gespeichert hat. Bei mir findet sich dort aktuell nur eine Erinnerung: Ich möchte nicht, dass ChatGPT Wörter in den Antworten fett hervorhebt.
Wie speichert man Erinnerungen?
Als diese Funktion bei ChatGPT herauskam, hing es noch stark an der Eigeninitiative des Modells. Sie wünschten sich ein veganes Rezept? Die KI hat sich vielleicht automatisch gespeichert, dass Sie vegan sind. Das führte zu so vielen ungewollten Erinnerungen, dass der Ansatz mittlerweile ein anderer ist. In den seltensten Fällen merkt sich ChatGPT von sich aus etwas.
Stattdessen müssen Sie dem Modell mitteilen, was es sich merken soll. Das geht ganz einfach: “Merk dir das.” Sehen wir uns das mit einem Beispiel an:
Ich habe dem Modell mitgeteilt, dass ich eine tödliche Nussallergie hätte. Das wäre nun etwas, von dem ich möchte, dass es sich das unbedingt merkt. Aber es hat keine Erinnerung abgespeichert. Daher habe ich geschrieben: “Merk dir, dass ich die Allergie habe.”
Dass es funktioniert hat, sehen Sie an der Meldung “Gespeicherte Erinnerung aktualisiert”. Sie können auf diese graue Nachricht klicken und sich Ihre aktualisierten Erinnerungen ansehen:
Probieren wir das aus. Ich lösche diesen Chat und öffne einen neuen, in dem ich um ein Rezept für Nussschnecken bitte:
Wie Sie sehen, weigert sich das Modell, mir ein solches Rezept zu erstellen. Stattdessen liefert es mir ein nussfreies Rezept für Schoko-Zimt-Schnecken.
Aber was, wenn es sich etwas Falsches merkt? Immerhin habe ich nicht wirklich eine Nussallergie. Sie können die Erinnerungen entweder manuell löschen (unter “Verwalten” in den Erinnerungs-Einstellungen), oder Sie bitten das Modell, die Erinnerung zu löschen. Ich mache das hier, indem ich dem Modell sage, dass es ein Schmäh war:
Und siehe da – ChatGPT hat es wieder vergessen, was Sie an der Benachrichtigung sehen.
Wichtig: Das Hinzufügen und Entfernen von Erinnerungen durch das Modell hat nur funktioniert, wenn dieser graue Text “Gespeicherte Erinnerung aktualisiert” auftaucht. Erscheint er nicht, wurde nichts gespeichert oder gelöscht.
Fazit
Und damit sind wir wieder bei meinem Mittwochs-Desaster. Der Chat vom Dienstag war noch da. ChatGPT hatte Zugriff darauf. Und es hat die Information “Das war nur ein Schmäh” höher gewichtet als die gespeicherte Erinnerung.
Die Erinnerungsfunktionen moderner Chatbots sind mächtig – aber sie erfordern Pflege. Wie ein Garten, der verwildert, wenn man ihn ignoriert. Oder wie ein Schreibtisch voller Post-its, von denen manche noch aktuell sind und manche seit drei Jahren dort kleben.
Die Lösung ist simpel, aber erfordert Disziplin: Löschen Sie alle alten Chats, die irrelevant sind oder Informationen enthalten, die das System nicht berücksichtigen soll.
Mein Tipp: Schauen Sie einmal pro Woche kurz in Ihre gespeicherten Erinnerungen. Löschen Sie Chats, die Sie nicht mehr brauchen. Und wenn Sie – wie ich – Chatbots für Demonstrationen verwenden: Löschen Sie die Chats direkt danach. Oder verwenden Sie temporäre Chats, die sich sofort wieder löschen, nachdem man sie schließt. Diese Funktion lässt sich bei ChatGPT rechts oben durch das gestrichelte Sprechblasen-Icon nutzen.
Wenn ChatGPT also das nächste Mal etwas Irrelevantes aus der Vergangenheit hervorholt, wissen Sie jetzt, woran es liegt.