NLP / 大语言模型 · 2019 · BART
BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension
Mike Lewis et al.
组合双向编码器与自回归解码器,以去噪任务进行预训练。
去噪预训练文本生成摘要
复现空间 · 建议计划
进阶 · 权重评估 · 编辑建议,尚未实测
最小实验目标
评估公开摘要权重,比较 beam size 和长度约束带来的质量变化。
数据集 / 环境
CNN / DailyMail 摘要验证集。
评估项
- ROUGE-1/2/L
- 生成长度
边界与常见偏差
固定预处理和 ROUGE 实现;公开微调权重的推理不等同于重做去噪预训练。
实验验收协议
- 阅读原文,选定要对齐的具体表格、模型变体与数据划分;把缩小规模或替换组件单独列出。
- 核对作者资源的许可与依赖,锁定代码 commit、权重版本、硬件、随机种子和完整运行命令。
- 先完成数据与推理检查,再执行约定的实验;记录多次运行结果、资源消耗和失败案例。
- 提交可核验的代码、配置、日志与报告。原论文数值须注明表格和协议,当前指标必须附实际运行证据。
实验记录
- 原论文对齐目标
- 待认领后选定具体表格与评估条件
- 社区复现指标
- 暂无已验证结果
暂无实验日志与复现报告。收录此论文不表示社区已完成训练或评估;后续记录通过仓库 Issue 和 Pull Request 补充。