コンテキストウィンドウとはAIが一度に扱える情報量の上限と付き合い方
コンテキストウィンドウは、LLMが一度に参照できる入力と出力の合計量の上限です。トークンとの関係、会話が長くなると起こること、長文を扱う際の工夫、上限の大きさの違い、「長ければ万能」ではない理由を整理します。
公的機関・公式資料などの一次情報と照合して作成しています。このサイトについて
コンテキストウィンドウとは
コンテキストウィンドウ（context window）は、LLMが一度の処理で参照できる情報量の上限で、トークン数で表されます（トークンとは）。会話の履歴、与えた資料、システムプロンプト、そしてモデルが生成する回答までが、この枠の中に収まる必要があります。人間の「作業机の広さ」に例えられ、机に載り切らない資料は、同時には扱えません。
何が枠の中に入るのか
| 要素 | 内容 |
|---|---|
| システムプロンプト | AIの役割やルールの指示（システムプロンプト） |
| 会話の履歴 | 過去のユーザーの発言とAIの回答 |
| 添付資料・文書 | 貼り付けた文章、読み込ませたファイル |
| ツールの結果 | 検索結果やプログラムの実行結果（ツール利用（Function Calling）） |
| モデルの出力 | 生成する回答の分（上限が別に設定される場合がある） |
会話が長引くと、毎回過去の履歴もすべて入力として送られ、枠を消費していきます。
上限の大きさ
モデルによって、コンテキストウィンドウの大きさは異なります。数万トークンのものから、数十万、100万トークン級のものまであり、年々大きくなる傾向があります。具体的な数値はモデルやプランによって異なり、更新も速いため、各サービスの公式情報で確認してください。
上限を超えるとどうなるか
| 挙動 | 内容 |
|---|---|
| エラー | 入力が上限を超えると、処理が拒否される |
| 古い内容の切り捨て | 古い履歴が自動的に省かれ、前の内容を「忘れる」 |
| 要約・圧縮 | サービスが履歴を要約して枠を空ける場合がある（コンテキスト管理（/compact・/clear）） |
| 出力が途中で止まる | 出力の上限に達すると、回答が途切れる |
対話の途中でAIが前の指示を守らなくなったときは、枠から押し出された、あるいは埋もれた可能性を疑います。
「長ければ万能」ではない
上限が大きくなっても、長い入力のすべてを、均等に使いこなせるとは限りません。研究では、長い文脈の中ほどにある情報が、先頭や末尾の情報に比べて活用されにくくなる傾向が報告されています（アテンション機構）。また、入力が長くなるほど、費用と応答時間も増えます。
| 注意点 | 内容 |
|---|---|
| 精度 | 関係のない情報が多いと、重要な情報を見落とすことがある |
| 費用 | 入力トークンが多いほど、課金が増える（トークン料金の計算） |
| 速度 | 入力が長いほど、応答が遅くなる傾向 |
長い文書を扱う工夫
| 工夫 | 内容 |
|---|---|
| 必要な部分だけを渡す | 全文ではなく、関連する章や段落を抜粋する（RAG（検索拡張生成）、チャンク分割） |
| 重要事項を端に置く | 指示は冒頭、最終的な質問は末尾など（長文を扱うプロンプト） |
| 構造化する | 見出し・区切り・タグで資料を整理する（XMLタグで構造化する） |
| 段階的に処理する | 章ごとに要約してから、要約を統合する（プロンプトチェーン） |
| 会話をリセットする | 関係のない話題は新しい会話で始める |
| キャッシュの活用 | 繰り返し使う長い前提は、キャッシュ機能を検討する（プロンプトキャッシュ） |
コンテキストウィンドウの具体例
100ページの報告書から、特定の数値を探したいとします。全文を渡す方法でも探せる場合がありますが、「該当しそうな章」だけを渡す、あるいは資料を分割して検索する仕組み（RAG）を使うと、精度・費用・速度の面で有利になることがあります。「全部入れる」より「必要なものを選んで入れる」のが、基本の考え方です。
コンテキストウィンドウのFAQ（よくある質問）
Q. コンテキストウィンドウが大きいモデルが良いですか？
A. 大量の資料を一度に扱いたいときに有利ですが、費用・速度・精度のバランスで選びます。
Q. AIが前の指示を忘れるのはなぜですか？
A. 履歴が枠から押し出された、要約で詳細が省かれた、長い文脈で重要な指示が埋もれた、などの可能性があります。
Q. 会話の「記憶」と同じですか？
A. 異なります。コンテキストは、その会話の中で参照できる情報です。会話をまたいだ記憶は、別の機能として提供される場合があります（エージェントのメモリ設計）。
会話が長くなったときの対処手順
AIの応答が、途中から不安定になったと感じたら、次の手順を試します。
- これまでの会話の重要な決定事項を、短く要約してもらう。
- 新しい会話を始め、要約と、必要な資料だけを貼り付ける。
- 守ってほしいルールや条件は、冒頭に改めて書く。
この方法で、枠の消費を抑えつつ、前提を引き継げます。長い作業を行うときは、区切りごとに要約を作る習慣をつけておくと便利です。
筆者の見解（コンテキストウィンドウ）
コンテキストウィンドウは、「AIの記憶力」というより「作業机の広さ」と捉えると使いやすくなります。机が広くても、散らかっていれば作業は進みません。必要な資料を選び、整理して置くという人間の仕事術が、そのままAI活用にも当てはまると感じます。
コンテキストウィンドウの関連項目
- トークンとは
- 長文を扱うプロンプト
- コンテキスト管理（/compact・/clear）
- RAG（検索拡張生成）
出典（一次情報）
本記事は一般的な情報の提供を目的としています。AIのサービス・機能・料金・仕様は頻繁に更新されるため、最新の内容は各社の公式ドキュメントでご確認ください。「筆者の見解」は一つの考え方です。