AI-103：Developing AI Apps and Agents on Azure テキスト分析ソリューションの実装 問5
テキスト分析ソリューションの実装／言語モデルのテキスト分析法務部が、1文書あたり数百ページの契約書を、Foundry にデプロイしたチャットモデルで要約します。1文書のトークン数がモデルのコンテキストウィンドウを超えるため、全文を1回のリクエストでは送れません。内容を欠落させずに要約する設計として適切なものはどれですか。
当サイトのオリジナル問題（AI-103：Developing AI Apps and Agents on Azureの出題範囲「テキスト分析ソリューションの実装」に対応。実際の試験問題ではありません）
- Aリクエストの最大出力トークン数を上限まで引き上げ、全文を1回のリクエストで送信する
- B文書を章や一定の長さのチャンクに分割して各チャンクを要約し、得られた部分要約をまとめて再度要約する
- Cモデルの temperature を 0 に設定して、全文を1回のリクエストで送信する
- D文書の先頭から、コンテキストウィンドウに収まる分だけを切り出して要約する
正解：B
解説
入力がコンテキストウィンドウを超える場合は、文書をチャンクに分割して部分ごとに要約し、その部分要約を統合して最終的な要約を作る手法（map-reduce 型）が一般的です。最大出力トークン数や temperature は出力の長さやばらつきに関する設定で、入力の上限を広げるものではありません。先頭だけを切り出す方法では、後半の内容が要約に反映されません。
選択肢ごとの解説
- A誤り。最大出力トークン数は出力の上限であり、入力がコンテキストウィンドウを超える問題は解決しません。
- B正しい。分割して部分要約を作り、それらを再度要約することで、ウィンドウを超える長さの文書でも全体の内容を反映できます。
- C誤り。temperature は出力のばらつきを調整する設定で、入力できるトークン数は変わりません。
- D誤り。先頭だけを要約すると、切り出さなかった後半の条項が要約に含まれず、内容が欠落します。