NLP / 大语言模型 · 2020 · GPT-3
Language Models are Few-Shot Learners
Tom B. Brown et al.
研究大规模自回归语言模型的上下文少样本学习。
上下文学习语言模型少样本
复现空间 · 建议计划
研究 · 方案研读 · 编辑建议,尚未实测
最小实验目标
整理 zero-shot、one-shot、few-shot 协议,并用可获得的小模型做方法对照。
数据集 / 环境
论文列出的问答与补全任务;教学实验须单独声明模型和子集。
评估项
- 任务准确率
- 不同示例数的表现
边界与常见偏差
原始 GPT-3 权重与完整训练条件不可由本目录提供;替代模型实验不能宣称复现 GPT-3 分数。
实验验收协议
- 阅读原文,选定要对齐的具体表格、模型变体与数据划分;把缩小规模或替换组件单独列出。
- 核对作者资源的许可与依赖,锁定代码 commit、权重版本、硬件、随机种子和完整运行命令。
- 先完成数据与推理检查,再执行约定的实验;记录多次运行结果、资源消耗和失败案例。
- 提交可核验的代码、配置、日志与报告。原论文数值须注明表格和协议,当前指标必须附实际运行证据。
实验记录
- 原论文对齐目标
- 待认领后选定具体表格与评估条件
- 社区复现指标
- 暂无已验证结果
暂无实验日志与复现报告。收录此论文不表示社区已完成训练或评估;后续记录通过仓库 Issue 和 Pull Request 补充。