少样本学习是什么?
教小孩认「鸟」,你只要指两三张图说「这是鸟」,他大概就能认出新的鸟。少样本学习(Few-Shot Learning)就是这个思路:给模型几个示例,它就能举一反三,直接上手新任务,完全不用重新训练。它和传统训练有什么不同?
传统训练要海量数据以前想让模型学会新任务,往往要成千上万个样本,再花大量算力重新训练。
少样本只要几个例子
把几个例子写进提示词里,模型当场就「学会了」,省时省力又省钱。
为什么「给例子」这么管用?
大模型在海量语料里已经见过了无数种模式。示例的作用不是「从头教」,而是「点醒」它:这次该用哪种模式、按什么格式输出。例子越贴近目标,模型越能对齐。少样本 vs 零样本
零样本一个例子都不给,全靠指令描述,适合简单或常见任务。
少样本
给几个精心挑选的例子,适合格式复杂、标准模糊的任务,效果通常更稳。
实践要点
例子要典型选最接近目标输出、覆盖边界情况的例子。
保持格式一致
输入和输出的结构前后统一,模型更容易照做。
数量不必多
通常 2 到 5 个就够,给太多反而稀释重点、多花 Token。
一句话记住:少样本学习,就是「给几个例子,让模型照着学」。
评论