MLA-C02：AWS Certified Machine Learning Engineer - Associate ML モデルと基盤モデルの開発 問16
ML モデルと基盤モデルの開発／モデルの学習・ファインチューニング・カスタマイズある専門分野（例: 法務）の大量の未ラベルテキストを持っており、基盤モデルにその分野特有の語彙や言い回しの知識を広く取り込ませたいと考えています。入力と出力のペアは用意できません。最も適したカスタマイズ手法はどれですか。
当サイトのオリジナル問題（MLA-C02：AWS Certified Machine Learning Engineer - Associateの出題範囲「ML モデルと基盤モデルの開発」に対応。実際の試験問題ではありません）
- A少数ショットプロンプティング
- B継続的事前学習（ラベルなしのドメインコーパスで追加の事前学習を行う）
- Cワンホットエンコーディング
- D推論パラメーターの温度調整
正解：B
解説
ラベルなしの大量ドメインコーパスでモデルに分野知識を広く取り込ませたい場合は、継続的事前学習（continued pre-training）が適します。入力と出力のペア（ラベル）が必要なファインチューニングとは異なり、ラベルなしテキストで実施できます。少数ショットは都度のプロンプト工夫、ワンホットは前処理、温度調整は出力の多様性制御で、ドメイン知識の取り込み手法ではありません。
下線の用語は 用語集 で意味を確認できます。
選択肢ごとの解説
- A誤り。少数ショットはプロンプト内で例を示す手法で、大量のドメイン知識を取り込む学習手法ではありません。
- B正しい。ラベルなしのドメインコーパスで分野知識を取り込むには継続的事前学習が適します。
- C誤り。ワンホットエンコーディングはカテゴリ変数の前処理で、FM のカスタマイズ手法ではありません。
- D誤り。温度調整は出力の多様性の制御で、ドメイン知識を学習させる手法ではありません。