跳到正文

NLP / 大语言模型 · 2020 · GPT-3

Language Models are Few-Shot Learners

Tom B. Brown et al.

研究大规模自回归语言模型的上下文少样本学习。

上下文学习语言模型少样本

复现空间 · 建议计划

研究 · 方案研读 · 编辑建议,尚未实测

最小实验目标

整理 zero-shot、one-shot、few-shot 协议,并用可获得的小模型做方法对照。

数据集 / 环境

论文列出的问答与补全任务;教学实验须单独声明模型和子集。

评估项

  • 任务准确率
  • 不同示例数的表现

边界与常见偏差

原始 GPT-3 权重与完整训练条件不可由本目录提供;替代模型实验不能宣称复现 GPT-3 分数。

实验验收协议

  1. 阅读原文,选定要对齐的具体表格、模型变体与数据划分;把缩小规模或替换组件单独列出。
  2. 核对作者资源的许可与依赖,锁定代码 commit、权重版本、硬件、随机种子和完整运行命令。
  3. 先完成数据与推理检查,再执行约定的实验;记录多次运行结果、资源消耗和失败案例。
  4. 提交可核验的代码、配置、日志与报告。原论文数值须注明表格和协议,当前指标必须附实际运行证据。

实验记录

原论文对齐目标
待认领后选定具体表格与评估条件
社区复现指标
暂无已验证结果

暂无实验日志与复现报告。收录此论文不表示社区已完成训练或评估;后续记录通过仓库 Issue 和 Pull Request 补充。

下一步

同方向阅读