コンテキストウィンドウとは
言語モデルが一度に考慮できるトークンの最大量。入力と出力の合計がこの範囲に収まる必要があります。
解説
コンテキストウィンドウは、モデルが1回のやり取りで参照できるトークンの上限です。長い文書を丸ごと渡したいときや、長い会話を続けたいときは、この上限が制約になります。上限を超える情報を扱うには、文書を分割して関連部分だけを渡す（RAG）、会話を要約して圧縮する、といった工夫をします。モデルによって上限は大きく異なります。
試験での出方
コンテキストウィンドウの意味と、上限を超える情報への対処（分割・要約・RAG）が問われます。
あわせて読みたい用語
この用語が解説に出てくる問題
- Azure AI ソリューションの計画と管理 問1ある通信会社が、毎日数十万件届く短い問い合わせ文を「請求」「故障」「解約」などの数種類に分類する処理を、Microso…
- テキスト分析ソリューションの実装 問5法務部が、1文書あたり数百ページの契約書を、Foundry にデプロイしたチャットモデルで要約します。1文書のトークン…
- 生成 AI の基礎 問2ある開発者が、長い契約書の全文と詳細な質問を 1 回のリクエストで基盤モデルに送ったところ、エラーが返りました。同じ質…
- 生成 AI の基礎 問9自社の新製品が先月発売されました。社員が、汎用の基盤モデルを使った社内チャットボットに新製品の仕様を尋ねたところ、モデ…