コンテキストウィンドウとは、生成AIのモデルが一度の処理で扱える、入力と出力を合わせた文章の量の上限のことです。指示の文章や渡した資料、それまでの会話の履歴、AIの答えまで、すべてがこの枠の中に収まる必要があります。長い資料を読ませたい業務や、長く続く会話を扱う仕組みでは、設計の前提になる数字です。
コンテキストウィンドウには、何が入るのか?
AIに渡すものと、AIが返すものの両方が入ります。指示や質問だけでなく、渡した資料や会話の履歴も、枠の一部を使います。
- AIの役割や条件を決める指示
- 利用者の質問
- 答えの根拠として渡した資料(RAGで探した資料を含む)
- それまでの会話の履歴
- AIが出力する答え
コンテキストウィンドウの大きさは、どのくらいか?
大きさはモデルによって大きく違い、新しいモデルほど大きくなる傾向があります。2026年11月時点では、本1冊分を超える量の文章を一度に扱えるモデルもあります。
同じモデルでも、使うサービスや契約によって、扱える量が違うことがあります。具体的な数字は、使うサービスの案内で確かめてください。
上限を超えると、どうなるのか?
上限を超えた分は読み込めず、エラーになるか、古い会話や資料の一部が切り捨てられます。切り捨てられた内容は、AIの答えに反映されません。
長く続く会話で、AIが最初に決めた条件を忘れたように見えるのは、このためであることがあります。また、上限の内側であっても、渡す文章が長くなるほど、途中にある情報を見落としやすくなる傾向が、研究でも報告されています。
長い資料を扱うには、どうすればいいか?
必要な部分だけを探して渡す、資料を分けて要約してからまとめる、会話の履歴を要約して引き継ぐ、といった方法があります。業務の内容と資料の量に合わせて選びます。
- 必要な部分だけを渡す
- RAGを使い、質問に関係する部分だけを資料から探して渡します。社内の規程やマニュアルのように、資料が多い場合に向いています。
- 分けて要約してからまとめる
- 長い資料を章ごとに要約し、その要約をもとに全体の答えをつくります。長い報告書の読み込みなどに向いています。
- 会話の履歴を要約する
- 古い会話をそのまま渡し続けず、要点だけを要約して引き継ぎます。
トラックファームでは、コンテキストウィンドウをどう考えているか?
業務で扱う資料の長さと件数を先に確かめ、資料をまとめて読ませるか、RAGで必要な部分だけを渡すかを決めます。多く読ませるほど費用も待ち時間も増えるため、答えの質と費用の両方を見て選びます。
よくある質問
コンテキストウィンドウが大きければ、RAGは要りませんか?
要らなくなるとは限りません。資料をすべて渡すと、そのたびに費用と待ち時間がかかり、途中の情報を見落とすこともあります。資料が多い場合や、見てよい資料を利用者ごとに分けたい場合は、RAGで必要な部分だけを渡すほうが向いています。
長く会話を続けると、AIが前の話を忘れるのはなぜですか?
主な原因の一つは、コンテキストウィンドウの上限を超えて、古い会話が切り捨てられていることです。大事な条件は、新しい会話を始めるときに改めて伝えるか、仕組みの側で毎回の指示に含めるようにします。
