Die begrenzte Menge an Informationen, die ein Modell in einer Anfrage berücksichtigen kann.
Beispiel aus der Praxis
Lange Dokumente müssen gegebenenfalls in relevante Abschnitte aufgeteilt werden. Mehr Kontext garantiert keine bessere Antwort.
Informationen gezielt auswählen
Eine umfangreiche Akte enthält oft Passagen, die für die aktuelle Frage keine Rolle spielen. Wähle relevante Abschnitte aus und halte ihre Herkunft fest. So bleibt nachvollziehbar, worauf eine Antwort beruht und welche Informationen nicht berücksichtigt wurden.
Kontext und Memory trennen
Ein gespeicherter Gesprächsverlauf steht dem Modell nicht automatisch vollständig zur Verfügung. Die Anwendung entscheidet, welche Teile in die nächste Anfrage gelangen. Teste deshalb auch spätere Rückfragen, die sich auf ältere Angaben beziehen.