论文地址：LoRA: Low-Rank Adaptation of Large Language Models
LoRA是一种用于adapters和大模型迁移的技术,全称为Low-Rank Adaptation of Large Language Models。它最初主要是用于大型语言模型（LLM）的跨领域与跨语言迁移。在微软的论文《LoRA: Low-Rank Adaptation of Large Language Models》提出了一种低秩adapters学习技术LoRA,实现大规模语言模型的跨领域与跨语言迁移。其主要内容如下:
1. 低秩分解:将adapters的参数表示为两个小矩阵U和V的乘积,而不是一个大参数矩阵。这可以显著降低计算复杂度,使adapters可以应用于大语言模型中。
2. 多粒度:提出在词、段落与任务三个粒度学习适配器参数,实现不同粒度的语言变化建模。
3. 异构框架:LoRA可以应用于BERT与GPT等不同结构的transformer模型,实现跨模型的adapters迁移。
4. 无监督学习:使用预测-聚合损失函数进行adapters参数学习,无需额外标注数据。这使得LoRA可以广泛应用于各种downstream任务。
5. 实验结果:在GLUE与XNLI数据集上验证了LoRA的有效性。使用LoRA的RoBERTa在所有任务上的平均精度达到80.5,超过RoBERTa-Large的78.9。LoRA还可以显著提高低资源语言AdaBERT的性能。
6. 案例研究:证明LoRA可以实现跨领域(文本分类到问答)和跨语言(英语到西班牙语)的迁移与扩展。并可实现词性别偏倚的有效消除。
LoRA不仅可以实现跨领域与跨语言的迁移,也可用于消除模型的社会偏倚与不公平性。这使得大语言模型可以更广泛服务于人类社会与多语言应用。LoRA是一项具有广泛影响的技术,它拓展了语言模型迁移与适配的范围与可能性,为其真正产业化运用奠定了重要基石。
LoRA的典型应用场景有:
1. 低资源语言处理:通过学习低秩adapters,可以将大规模语言模型迁移到低资源语言中,实现其扩展。
2. 跨领域迁移:可以学习领域适配的adapters,实现同一模型在不同应用领域的迁移,如文本分类、问答等。
3. 词性别偏倚消除:可以学习性别中性化的adapters,应用于已经预训练的语言模型中以消除性别偏倚。
4. 多语言机器翻译:可以学习语言适配的adapters,使单一语言模型可以支持多语言机器翻译任务。
5. 语言协同训练:通过分别学习单语言adapters与跨语言adapters,可以实现多语言模型的协同训练与融合。
LoRA技术最近被应用于Stable Diffusion模型中,以实现该模型在不同领域与任务中的迁移。这产生了以下主要影响:
1. 多模态语义表示。Stable Diffusion是一个多模态语言-图像模型,LoRA可以学习将其语言表征迁移到图像modal中,从而获得跨模态语义一致的表示。这可以增强模型的语义理解能力与生成效果。
2. 低资源语言扩展。Stable Diffusion仅支持高资源语言如英语,而LoRA可以学习语言适配器将其扩展到其他语言,如法语、西班牙语等。这使得低资源语言也可以受益于基于Diffusion的生成技术。
3. 样式与风格迁移。Learning adapters可以实现将Stable Diffusion模型从一个生成样式或风格迁移到其他样式与风格,如从写实主义迁移到立体主义等。这可以扩展模型的表达与创作范围。如下图的柱子哥就是通过LoRA画出来的，光靠StableDiffusion原始模型是很难画的这么生动的：
4. 领域适配。Stable Diffusion是一个通用的多模态模型,而通过LoRA可以学习特定领域的适配器,实现模型到特定领域如科技新闻、体育赛事的迁移,产生更加专业与准确的生成效果。
5. 私有数据集精调。用户可以使用自己的私有数据集学习专属的LoRA适配器,将Stable Diffusion模型迁移到用户专属的生成空间或风格中。这可以产生更加个性化的生成结果以满足用户需求。
LoRA技术的引入大大拓展了Stable Diffusion模型的应用范围与表达能力。它不仅可以使该模型具备多语言以及多模态的语义理解与生成能力,还可以实现领域专化与个性化的效果。这使得基于Diffusion的生成框架可以被真正落地到实际应用环境中,为用户提供个性化与定制化的生成体验。LoRA的使用使Stable Diffusion这个通用框架进一步迈向产业化和大众化。