Werden kostenlose Chatbots bei langen Chats ungenauer und halluzinieren sie ab einer bestimmten Tokenzahl?

Teilweise: Lange Chats können ungenauer werden, aber eine feste Tokenzahl, ab der kostenlose Chatbots automatisch halluzinieren, ist nicht belegt.

Entscheidend ist die Länge des aktuell verarbeiteten Kontexts, nicht einfach die gesamte bisherige Nutzung. Anthropic beschreibt einen schrittweisen Genauigkeitsverlust bei längerem Kontext, keinen abrupten Umschlag an einer allgemeinen Grenze. Das Problem ist nicht auf kostenlose Angebote beschränkt.

Drei unterschiedliche Effekte

• Nutzungslimit: Es begrenzt, wie viel du innerhalb eines Zeitraums chatten oder bestimmte Funktionen verwenden kannst. Eine Limitmeldung bedeutet nicht, dass der Bot anschließend automatisch falsche Antworten produziert. OpenAI und Anthropic unterscheiden solche Kontingente von anderen Beschränkungen.
• Kontextfenster: Es begrenzt, wie viel Inhalt das Modell gleichzeitig berücksichtigen kann. Bei Claude können frühere Nachrichten unter bestimmten Voraussetzungen zusammengefasst werden, wenn sich das Gespräch dieser Grenze nähert. Eine zu starke Zusammenfassung kann wichtige Details verlieren.
• Genauigkeitsverlust innerhalb des Fensters: Schon bevor die technische Grenze erreicht ist, können Modelle relevante Informationen schlechter finden. Die Studie „Lost in the Middle“ zeigte insbesondere Probleme mit Informationen in der Mitte langer Texte. Das belegt Kontextfehler, aber nicht, dass jede solche Fehlleistung eine erfundene Behauptung ist.

Welche Chatbots betrifft das

Die folgenden Anbieter dokumentieren unterschiedliche Grenzen. Diese sind keine „Halluzinationsschwellen“.

Stand: 9. Oktober 2026. Die Angaben stammen aus den jeweiligen Anbieterhilfen. Eine Rangliste, welcher kostenlose Bot ab welcher Länge halluziniert, lässt sich daraus nicht seriös ableiten.

Praktische Konsequenz

Für lange Aufgaben ist ein neuer Chat mit einer geprüften Kurzfassung der wichtigen Fakten sinnvoller als immer mehr Verlauf. Übernimm entscheidende Originalstellen zusätzlich: Gerade beim Zusammenfassen können Details verloren gehen. Ein größeres Kontextfenster bietet mehr Platz, ist aber keine Genauigkeitsgarantie.

Quellen:

• Effective context engineering for AI agents, Anthropic
• Lost in the Middle: How Language Models Use Long Contexts, Liu und weitere
• Gemini-Apps: Nutzungslimits und Upgrades für Google AI-Abos, Google
• FAQ zur kostenlosen Version von ChatGPT, OpenAI
• Wie funktionieren Nutzungs- und Längenbeschränkungen?, Anthropic