少数ショット学習って何?
子どもに「鳥」を教えるとき、2、3枚の写真を指して「これは鳥だよ」と言えば、新しい鳥も見分けられるようになります。少数ショット学習(Few-Shot Learning)も同じ発想。モデルに例をいくつか見せれば、そこから推し広げて、再訓練なしで新しいタスクに取りかかれます。従来の訓練との違いは?
従来は大量のデータが必要新しいタスクを覚えさせるには、かつては何千ものサンプルと膨大な計算リソースが必要でした。
少数ショットは数例でよい
例をプロンプトに書くだけで、モデルはその場で「学習」します。安く、速く、手軽です。
なぜ例がこんなに効くのか
大規模モデルは訓練データの中で無数のパターンをすでに見ています。例の役割は「ゼロから教える」のではなく、「今回はどのパターンで、どんな形式で出すか」を思い出させること。例が目標に近いほど、モデルは狙い通りに動きます。少数ショットとゼロショット
ゼロショット例を一切与えず、指示だけで動かす。単純・一般的なタスク向き。
少数ショット
厳選した例をいくつか渡す。形式が複雑で基準が曖昧なタスク向きで、通常はより安定します。
実践のコツ
典型的な例を選ぶ目標の出力に近く、境界ケースもカバーする例を。
形式を揃える
入力と出力の構造を統一すると、モデルは格段に従いやすくなります。
数は多くなくていい
2〜5個で十分。多すぎると要点が薄れ、トークンも余計にかかります。
まとめ:少数ショット学習は「例をいくつか見せて、モデルに真似てもらう」ことです。
コメント