跳到正文

多模态 · 2023 · BLIP-2

BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models

Junnan Li et al.

以轻量桥接模块连接冻结视觉编码器和语言模型。

Q-Former冻结模型视觉语言

复现空间 · 建议计划

进阶 · 权重评估 · 编辑建议,尚未实测

最小实验目标

跑通指定 BLIP-2 配置的 VQA,核对 Q-Former 输入输出与显存。

数据集 / 环境

VQAv2 验证子集。

评估项

  • VQA Accuracy
  • 峰值显存

边界与常见偏差

OPT 与 Flan-T5 版本不同;核对权重规模,勿把下游推理当成两阶段预训练复现。

实验验收协议

  1. 阅读原文,选定要对齐的具体表格、模型变体与数据划分;把缩小规模或替换组件单独列出。
  2. 核对作者资源的许可与依赖,锁定代码 commit、权重版本、硬件、随机种子和完整运行命令。
  3. 先完成数据与推理检查,再执行约定的实验;记录多次运行结果、资源消耗和失败案例。
  4. 提交可核验的代码、配置、日志与报告。原论文数值须注明表格和协议,当前指标必须附实际运行证据。

实验记录

原论文对齐目标
待认领后选定具体表格与评估条件
社区复现指标
暂无已验证结果

暂无实验日志与复现报告。收录此论文不表示社区已完成训练或评估;后续记录通过仓库 Issue 和 Pull Request 补充。

下一步

同方向阅读