AI-901：Microsoft Azure AI Fundamentals AI の概念と機能の識別 問13
AI の概念と機能の識別／AIモデルの構成要素と構成ある社員が、チャット形式の生成AIアプリに長い質問を送ったところ、回答が画面に少しずつ流れるように表示されました。同じ質問を再送すると、文面が少し異なる回答が返ってきました。この生成AIモデルが回答を作る仕組みについての説明として、適切なものはどれですか。
当サイトのオリジナル問題（AI-901：Microsoft Azure AI Fundamentalsの出題範囲「AI の概念と機能の識別」に対応。実際の試験問題ではありません）
- A質問に最も近い既存の回答文を、保存済みの文書群からベクトル検索で取り出し、その一部をそのまま返している
- B質問の文法を解析して、あらかじめ登録された回答テンプレートの空欄に、単語を順に当てはめて返している
- C回答全体の文章を一度にすべて確定させたうえで、画面の表示の都合だけで少しずつ見せている
- D入力をトークンに分割し、それまでの並びから次に来るトークンを確率的に予測する処理を繰り返して、回答を生成している
正解：D
解説
生成AI（大規模言語モデル）は、入力された文章をトークンという小さな単位に分割し、それまでのトークンの並びを踏まえて次に来る可能性が高いトークンを確率的に予測する、という処理を1トークンずつ繰り返して文章を生成します。トークンは逐次生成されるため、回答が少しずつ表示されるストリーミング表示にも向いています。次のトークンは確率分布からサンプリングされるので、temperature などの設定によっては同じ質問でも文面が変わります。この予測にはTransformerアーキテクチャの注意機構が使われ、文脈中のどの語が重要かを考慮します。
選択肢ごとの解説
- A誤り。これは埋め込み（ベクトル）を使った検索の仕組みで、既存文書を探して返す動作です。生成AIモデルは既存の回答を取り出すのではなく、新しい文章を生成します。
- B誤り。生成AIモデルは、登録済みのテンプレートの空欄を埋める方式ではありません。文脈にもとづいて次のトークンを予測するため、テンプレートにない表現も生成できます。
- C誤り。回答全体を先に確定させているわけではありません。モデルはトークンを1つずつ予測して生成しており、少しずつ表示されるのは生成の進み方そのものを反映しています。
- D正しい。入力をトークンに分割し、次のトークンを確率的に予測する処理を繰り返して文章を生成する、という生成AIモデルの基本的な仕組みの説明です。確率的な選択のため、同じ質問でも文面が変わることがあります。