对比学习可以使用梯度累积吗？
©PaperWeekly 原创 · 作者 | 苏剑林
单位 | 追一科技
研究方向 | NLP、神经网络
在之前的文章用时间换取效果：Keras 梯度累积优化器中，我们介绍过“梯度累积”，它是在有限显存下实现大 batch_size 效果的一种技巧。一般来说，梯度累积适用的是 loss 是独立同分布的场景，换言之每个样本单独计算 loss，然后总 loss 是所有单个 loss 的平均或求和。然而，并不是所有任务都满足这个条件的，比如最近比较热门的对比学习，每个样本的 loss 还跟其他样本有关。
那么，在对比学习场景，我们还可以使用梯度累积来达到大 batch_size 的效果吗？本文就来分析这个问题。
所以直接将小 batch_size 的对比学习的梯度累积起来，是不等价于大 batch_size 的对比学习的。类似的问题还存在于带 BN（Batch Normalization）的模型中。
假设反向传播的最大 batch_size 是 b，前向传播的最大 batch_size 是 nb，那么通过梯度累积让对比学习达到 batch_size 为 nb 的效果，其格式化的流程如下：
5. 用 g 作为最终梯度更新模型，然后重新执行第 1 步。
问题
参考文献
更多阅读
#投 稿 通 道#
让你的文字被更多人看到
如何才能让更多的优质内容以更短路径到达读者群体，缩短读者寻找优质内容的成本呢？答案就是：你不认识的人。
总有一些你不认识的人，知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁，促使不同背景、不同方向的学者和学术灵感相互碰撞，迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人，在我们的平台上分享各类优质内容，可以是最新论文解读，也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个，让知识真正流动起来。
📝 稿件基本要求：
• 文章确系个人原创作品，未曾在公开渠道发表，如为其他平台已发表或待发表的文章，请明确标注
• 稿件建议以 markdown 格式撰写，文中配图以附件形式发送，要求图片清晰，无版权问题
• PaperWeekly 尊重原作者署名权，并将为每篇被采纳的原创首发稿件，提供业内具有竞争力稿酬，具体依据文章阅读量和文章质量阶梯制结算
📬 投稿通道：
• 投稿邮箱：hr@paperweekly.site
• 来稿请备注即时联系方式（微信），以便我们在稿件选用的第一时间联系作者
• 您也可以直接添加小编微信（pwbot02）快速投稿，备注：姓名-投稿
△长按添加PaperWeekly小编
🔍
现在，在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
关于PaperWeekly
PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域，欢迎在公众号后台点击「交流群」，小助手将把你带入 PaperWeekly 的交流群里。