跳到正文

NLP / 大语言模型 · 2019 · BART

BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension

Mike Lewis et al.

组合双向编码器与自回归解码器,以去噪任务进行预训练。

去噪预训练文本生成摘要

复现空间 · 建议计划

进阶 · 权重评估 · 编辑建议,尚未实测

最小实验目标

评估公开摘要权重,比较 beam size 和长度约束带来的质量变化。

数据集 / 环境

CNN / DailyMail 摘要验证集。

评估项

  • ROUGE-1/2/L
  • 生成长度

边界与常见偏差

固定预处理和 ROUGE 实现;公开微调权重的推理不等同于重做去噪预训练。

实验验收协议

  1. 阅读原文,选定要对齐的具体表格、模型变体与数据划分;把缩小规模或替换组件单独列出。
  2. 核对作者资源的许可与依赖,锁定代码 commit、权重版本、硬件、随机种子和完整运行命令。
  3. 先完成数据与推理检查,再执行约定的实验;记录多次运行结果、资源消耗和失败案例。
  4. 提交可核验的代码、配置、日志与报告。原论文数值须注明表格和协议,当前指标必须附实际运行证据。

实验记录

原论文对齐目标
待认领后选定具体表格与评估条件
社区复现指标
暂无已验证结果

暂无实验日志与复现报告。收录此论文不表示社区已完成训练或评估;后续记录通过仓库 Issue 和 Pull Request 补充。

下一步

同方向阅读