コンテキストウィンドウとは

会話が長くなると、最初のほうに伝えた前提をAIが「忘れた」ように見えることがあります。これは記憶力の問題ではなく、扱える量の上限に達しているためです。

長い資料を読ませるときも同じです。上限を超える資料は、そのままでは全体を見てもらえません。分割するか、RAG のように必要な箇所だけを渡す仕組みが要ります。