AI-901：Microsoft Azure AI Fundamentals AI の概念と機能の識別 問7
AI の概念と機能の識別／AIモデルの構成要素と構成ある社員が、100 ページの規程文書をそのままプロンプトに貼り付けて、生成AIモデルに要約を依頼したところ、入力がモデルのコンテキストウィンドウ（扱えるトークン数の上限）を超えてエラーになりました。この状況への対処として適切なものはどれですか。
当サイトのオリジナル問題（AI-901：Microsoft Azure AI Fundamentalsの出題範囲「AI の概念と機能の識別」に対応。実際の試験問題ではありません）
- Atemperature を下げて、モデルがより多くのトークンを処理できるようにする
- B文書を意味のまとまりごとに分割し、部分ごとに要約してから、その要約を統合して再度要約する
- Cmax tokens を最大値に設定し、出力の上限とともに入力の上限も広げる
- Dプロンプトを英語に翻訳すれば、文書全体を1回で入力できるようになる
正解：B
解説
生成AIモデルは、テキストをトークンという単位に分割して処理し、入力と出力の合計がコンテキストウィンドウ内に収まる必要があります。上限を超える長い文書は、分割して部分ごとに処理し、その結果を統合する方法が有効です。temperature や max tokens は、出力のランダム性や生成する応答の長さを調整する設定であり、入力が扱えるトークン数の上限を広げるものではありません。言語によってトークン数は変わり得ますが、100ページ規模の文書ではコンテキストウィンドウを超える状況は根本的には変わりません。
選択肢ごとの解説
- A誤り。temperature は出力の多様性を調整する設定です。処理できるトークン数の上限には影響しません。
- B正しい。文書を分割して部分ごとに要約し、結果を統合する方法なら、各回の入力をコンテキストウィンドウ内に収められます。
- C誤り。max tokens は生成する応答の最大トークン数を制限する設定です。入力側の上限を広げるものではなく、モデル固有のコンテキストウィンドウも変わりません。
- D誤り。言語によりトークン数は変わり得ますが、100ページ規模の文書ではコンテキストウィンドウを超える状況は根本的に解決しません。文書の分割と段階的な要約が必要です。