文本对比学习综述

摘要

对比学习（Contrastive Learning）的思想最开始产生于CV领域，其主要的思路是，给定一个样本，对其进行数据增强，将增强的结果视为正例；然后，其他所有的样本视为负例。通过拉近正样本、拉远负样本之间的距离，对比学习能够在无监督（自监督）情境下学习更稳定的样本表征，并方便于下游任务的迁移。
对比学习的经典方法包括Moco以及SimCLR，大概代表了对比学习的两种不同的思路。Moco主要在内存中维护一个全局的队列（memory bank）以存储所有样本的当前表示，当一个mini-batch的样本进行学习时，只需将最上层的相应batch size的数据出队，即可进行相应的样本匹配，并采用Momentum Contrast技术对队列中的样本进行更新。

而SimCLR则是将同一个mini-batch中的所有其他样本视为负例，然后进行对比。因此，尽管SimCLR简单易行，但是为了提升模型对负样本的普适性，一般都需要一个非常大的batch（4096这种级别的），因此咱们平头百姓是有点玩不起的。后续文本表示中的对比学习也是基于这两个分支来阐述的，因此先进行个预热（详细CV对比学习综述请移步李沫老师的视频）。
而文本上的对比学习似乎一直存在着局限性，因为相比于图片的翻转、平移之类的增强，文本的增强似乎更加费力。因此，狭义（承袭Moco或是SimCLR这种CV的对比学习方法）的文本对比学习工作并不是很多。因此，本文旨在为NLP中的对比学习给出一个简要的总结。

CERT，2020

Code：【https://github.com/UCSD-AI4H/CERT】

本文是我找到的比较早的语言模型对比学习的文章之一，不过现在似乎还挂在arxiv上（我不理解）。本文给出了对比学习在NLP中的一个非常明确的优势描述：预训练语言模型的重点是放在token级别的任务上，因此对相应的句子级别的表征没有一个良好的学习。因此，本文采用了Moco的框架进行句子级别的对比学习，而增强的技术则采用了最常用的回译（back translation）。其执行流程也很好理解：

首先，在源域进行预训练，并在目标域文本上进行CSSL（对比自监督学习）的优化，此步骤得到的结果被称为CERT。之后，对带有标签的目标域任务执行微调，得到最终调优的模型。

CLEAR，2020

同样，本文依旧将目光放在句子级别的任务上，但是和CERT稍微不同的是，采用了SimCLR的框架来执行对比学习，并探讨了不同的数据增广策略，包括：random-words-deletion, spans-deletion, synonym-substitution, and reordering。并且，模型的流程也稍有不同，CLEAR将MLM以及CL进行联合训练，对上游的语言模型进行预训练，然后再在下游任务做微调。模型的主要架构如下：

$\widetilde{s_1}$，$\widetilde{s_2}$分别表示相同的增广策略对同一个样本产生的两个不同的增广样本，然后它们分别喂给同一个BERT，并得到两种不同的表示。因此对于一个batch size为$N$的输入，最终产生$2N$个样本。之后，$g()$就是完全参考SimCLR了，因为SimCLR原文中增加一个a nonlinear projection head可以提升性能（说不出理由，就是实验结果会提升），因此本文也效仿，在输出之后增加了相应的投影。损失函数是对比学习常用的损失：

CL整体对比学习损失定义为小批量中所有正对损失的总和：

那最终语言模型的优化目标为：

具体的实验细节以及结果就不展开说啦。

DeCLUTR，2021 ACL

Code：【https://github.com/JohnGiorgi/DeCLUTR】

后续的工作就都是采用SimCLR的框架执行了，而不同之处主要在于采样的方式。DeCLUTR则是从样本中根据beta分布采样一段长度不固定的子句，然后以这个子句作为增强之后的范例：

同样的，总体的损失是对比的损失以及MLM的损失的和：

ConSERT：ACL 2021

Code：【https://github.com/yym6472/ConSERT】

总体来说，与以往和后续的工作没有多大差别，提出了基于BERT的对比学习框架如下：

本文探究了四种不同的数据增强方法：

• Adversarial Attack。使用快速梯度值(FGV) 来实现这一策略，它直接使用梯度来计算扰动。
• Token Shuffling。通过将变换后的位置id传递给嵌入层，同时保持令牌id的顺序不变。
• Cutoff。通过随机删除一些tokens或是feature的维度来实现。
• Dropout。按照特定的概率在tokens的嵌入层中随机删除元素，并将它们的值设为零。

本文也对上述不同的增广策略的组合效果进行了探究：

Self-Guided Contrastive Learning for BERT Sentence Representations, ACL 2021

本文采取了一个非常有趣的增强策略，即保证BERT不同layer学习到的表征的一致性。因为作者认为，数据增强难免会产生噪声，因此很难保证增强之后的结果与原样本的语义一致性。模型的框架如下：

首先，对于BERT，产生两个copies，一个是固定参数，被称为$BER{T}_F$；另一个根据下游任务进行微调，被称为$BER{T}_T$。第二，同样给定一个mini-batch中的$b$个句子，利用$BER{T}_F$计算token-level的表示$H_{i,k}\in {\mathcal{R}}^{len(s_i)\times d}$如下：

之后，句子级别的表示$h_{i,k}$则使用一个简单的最大池化得到。其中，$k\in [1,l]$，$l$为BERT的层数。然后，应用一个层级别的采样函数$\sigma$，得到正例的最终表征：

第三，经过$BER{T}_T$得到的句子的表征$c_i$如下：

这样，增强之后的样本构成的集合$X$则已经确定：

接下来就是常用的对比损失了NT-Xent loss：

具体的符号的含义就不多解释了，就是拉近正样本，拉远负样本之间的距离，很好理解：

然后，理论上来说，尽管$BER{T}_T$做了微调，但是还是需要尽量保证和$BER{T}_F$的距离不是很远，因此又添加了一个正则化：

最终的损失则是联合的损失函数：

SimCSE：EMNLP2021

Code：【https://github.com/princeton-nlp/SimCSE】

本文提出的方法相当优雅，引入了dropout方法对样本进行增强。将相同的句子传递给预先训练的编码器两次：通过两次应用标准dropout，可以得到两个不同的嵌入作为正对。然后，在无监督和有监督（natural language inference，NLI）两个不同类型的增强任务中探究了相应的性能。

这里NLI之所以是有监督的，主要还是因为NLI本身就是一个匹配文本对的任务，所以本身一个就是一对文本的比较，匹配则是正例，不匹配则是负例。本文提出的dropout方法要比一些常见的增强方法，比如裁剪、删除、同义词替换效果更出色：

Pairwise Supervised Contrastive Learning of Sentence Representations，EMNLP 2021

ESimCSE, arxiv2021

SimCSE中的每个正对实际上都包含相同的长度信息，毕竟是通过一个输入dropout而来的。因此，用这些正对训练的unsup-SimCSE可能有偏倚，它会倾向于认为相同或相似长度的句子在语义上更相似。通过统计观察，本文发现确实存在这样的问题。为了缓解这一问题，我们对输入的句子进行简单的重复操作，对输入的句子进行修改，然后将修改后的句子分别传递给经过训练的Transformer编码器，之后进行的训练过程都差不多啦。

ESimCSE对批处理执行单词重复操作，因此正对的长度可以在不改变句子语义的情况下变化。当预测正对时，这种机制削弱了模型的相同长度提示。此外，ESimCSE还在一个称为动量对比(momentum contrast)的队列中维护了之前的几个小批量模型输出，这可以扩大损失计算中涉及的负对（这里仿照的是MOCO）。这种机制允许在对比学习中对配对进行更充分的比较。

DiffCSE，NAACL2021

Code：【https://github.com/voidism/DiffCSE】

本文的工作建立于SimCSE的基础上，增加了一个difference prediction的额外预测目标：

difference prediction主要用于判别一个被maks的句子中的token是否是被mask过的。首先，给定长度为$T$的输入$x$，利用随机mask获取到包含[MASK]的版本$x^{\prime }$，之后利用另一个pretrained的MLM作为Generator，对被mask的token进行还原，这时候的句子被表示为$x^{\prime \prime }$。之后，借助$D$来判别一个token是否被替换：

其实，该工作本质上还是对token级别的预训练任务与句子级别的预训练任务的合理结合。

PromptBERT，arxiv2022