Eine gute AI-Kontext-Migration aus deinem bisherigen LLM bedeutet nicht, alles zu übernehmen, sondern gezielt die Informationen und Routinen, die Deinen Agenten zuverlässig arbeiten lassen.

Die 7 Prinzipien für eine erfolgreiche Kontext-Migration

1. Vollständigkeit ist hier kein Qualitätsmaßstab

Ein Agent mit 200 Fakten, von denen 30 veraltet sind, funktioniert schlechter als ein Agent mit 40 geprüften Fakten.

Der Grund: Falsche Fakten werden mit derselben Sicherheit angewendet wie richtige. Der Fehler fällt oft erst auf, wenn das Ergebnis bereits falsch ist.

Lieber weniger Informationen, dafür geprüfte und verlässliche Informationen.

2. Ein Chatverlauf ist ein Protokoll, keine Wissensbasis

Ein Chatverlauf enthält verworfene Ideen, Korrekturen, Missverständnisse und alte Zahlen – oft direkt neben den Informationen, die weiterhin gelten.

Die Person, die den Verlauf geschrieben hat, weiß normalerweise, was davon noch relevant ist. Ein Agent, der den Verlauf später liest, weiß das nicht.

Deshalb ist ein Chatverlauf nicht automatisch eine geeignete Quelle für den langfristigen Agent-Kontext.

3. Ein längerer Prompt vergrößert die verfügbaren Daten nicht

Egal, was Du für die Extraktion dein LLM fragst: Das Modell kann nur auf seinen gespeicherten Speicher und die Gespräche zugreifen, die ihm zur Verfügung stehen.

Ein aufwendiger Extraktions-Prompt kann dieses Material besser strukturieren. Er erzeugt aber keine zusätzlichen Informationen.

Mehr Prompt bedeutet also nicht mehr Quelle.

4. Kleine Einheiten helfen bei der Extraktion

Extrahiere Informationen lieber für eine wiederkehrende Aufgabe nach der anderen, statt alles auf einmal aus den vorhandenen Gesprächen zu extrahieren.

So bleibt die Extraktion überschaubar und das Ergebnis leichter zu prüfen. Fehler lassen sich außerdem schneller einem bestimmten Dokument zuordnen, statt irgendwo in 40 Seiten von Inhalten unterzugehen.

Migriere deshalb lieber gezielt, statt alles pauschal auf einmal.

5. Die Prüfung ist der entscheidende Qualitätsschritt

Das Übergabedokument wurde von einem Modell erstellt, das sich selbst zusammenfasst. Sobald dieses Dokument zur maßgeblichen Quelle für den Agenten wird, bleiben mögliche Fehler unsichtbar: Es gibt nichts mehr, mit dem man das Ergebnis vergleichen kann.

Deshalb ist die Prüfung so wichtig.

Zehn Minuten Lesen pro Dokument machen den Unterschied zwischen einer guten Migration und einer plausibel aussehenden, aber schlechten Migration.

6. Übertrage nichts, was das Zielsystem bereits weiß

Kundenlisten, Projektstatus, Fälligkeiten oder die Frage, wer woran arbeitet: awork enthält diese Informationen bereits live.

Wenn wir sie zusätzlich in den Agent-Kontext kopieren, entstehen zwei Quellen für dieselben Informationen. Diese beginnen sofort auseinanderzulaufen und Fehler bleiben dabei oft unbemerkt.

Entferne solche Informationen aus der Migration und lassen den Agenten die echten, aktuellen Daten lesen.

7. Nicht die Historie fehlt, sondern die Routinen

Das Gefühl, „bei null anzufangen“, entsteht nicht durch fehlende Chatverläufe. Es entsteht vor allem dann, wenn wiederkehrende Aufgaben plötzlich erneut erklärt werden müssen.

Deshalb reicht es oft, die fünf bis zehn Aufgaben zu migrieren, die jemand tatsächlich regelmäßig wiederholt.

So verschwindet das Gefühl des Neustarts, ohne dass das gesamte Archiv übernommen werden muss.

Was sich nicht übertragen lässt

Über Monate entwickelt sich, wie Dein Agent arbeiten soll: welchen Ton er verwendet, wie viel Gegenrede Du möchtest und wann der Agent lieber nachfragen soll, statt einfach loszulegen.

Diese Feinabstimmung lässt sich nicht vollständig übertragen. Gerade am Anfang wirst Du deshalb wahrscheinlich noch Korrekturen geben müssen.

Nach etwa einem Monat sollte dieser Prozess abgeschlossen sein.

Der Test, ob die Migration funktioniert hat

Nimm fünf echte Aufgaben, für die Du noch gute Ergebnisse aus dem alten System hast.

Führe dieselben Aufgaben im neuen System erneut aus und vergleiche die Ergebnisse.

Wenn die Ergebnisse standhalten, ist die Migration erfolgreich – unabhängig davon, wie wenig tatsächlich übertragen wurde.