AIF-C01：AWS Certified AI Practitioner 生成 AI の基礎 問2
生成 AI の基礎／生成 AI の基本概念（トークン・埋め込み・基盤モデル・プロンプト）ある開発者が、長い契約書の全文と詳細な質問を 1 回のリクエストで基盤モデルに送ったところ、エラーが返りました。同じ質問を短い抜粋で送ると正常に回答が返ります。原因として最も考えられるものはどれですか。
当サイトのオリジナル問題（AIF-C01：AWS Certified AI Practitionerの出題範囲「生成 AI の基礎」に対応。実際の試験問題ではありません）
- A温度（temperature）の値が高すぎて、出力が生成できなかった
- B入力と出力を合わせたトークン数が、モデルのコンテキストウィンドウの上限を超えた
- C埋め込みベクトルの次元数が、契約書の文字数に対して不足していた
- Dモデルのパラメーター数が、契約書の語彙数より少なかった
正解：B
解説
基盤モデルが 1 回の処理で扱えるトークン数（コンテキストウィンドウ）には上限があり、入力プロンプトと生成する出力の両方が対象です。上限を超える入力はエラーになるか切り詰められます。長文を扱うには、文書の分割・要約、長いコンテキストに対応したモデルの選択などを検討します。温度は出力のばらつきを調整するだけで、入力長の上限とは関係しません。
選択肢ごとの解説
- A誤り。温度は出力の多様性を調整する値で、高くしても入力長の上限エラーにはなりません。
- B正しい。入力が長すぎてコンテキストウィンドウの上限を超えたことが、短い抜粋なら成功する理由と整合します。
- C誤り。埋め込みの次元数は埋め込みモデルの仕様で、基盤モデルへの入力長エラーとは別の問題です。
- D誤り。パラメーター数はモデル規模の指標で、1 回に受け付ける入力の長さを直接決めるものではありません。