编者按：大模型的上下文理解能力直接影响到 LLMs 在复杂任务和长对话中的表现。本期内容聚焦于两种主流技术：长上下文(Large Context Windows)和检索增强生成(RAG)。这两种技术各有何优势？在实际应用中，我们又该如何权衡选择？
文章不仅详细阐述了这两种技术的工作原理，还深入分析了它们在效率、准确性和实施成本等方面的差异。文章特别提到了在执行重复性任务时使用 Context Caching 优化长上下文的优势，然而，缓存策略的效果很大程度上取决于提示词的可预测性。如果用户输入变化无常，缓存的效果可能会大打折扣。
本文可供各位读者进行技术选型时参考，期待未来看到更多提升 LLMs 上下文理解能力的创新方案。
大语言模型（Large Language Models ，LLMs）技术正飞速发展，尤其是模型在生成文本时能够处理的上下文信息量极速提升。尽管 LLMs 在文本的处理和生成等方面表现出色，但它们却面临一个固有的挑战：难以捕捉信息背景全貌，尤其是在应对冗长对话或涉及多重细节的复杂任务时。为了解决这一问题，研究人员引入了长上下文（Large context windows）和检索增强生成（Retrieval-Augmented Generation ，RAG）两种技术。这两种技术各有千秋，选择哪种取决于具体的应用需求。下面，我们将探讨为何提升模型的上下文理解能力如此重要。
上下文（Context）的重要性：
让我们设想一下日常生活中的对话场景。要理解对方此刻的话语，我们需要回顾之前的对话内容。如若大语言模型（LLMs）缺乏必要的上下文理解能力，在这方面可能会“头疼”。本文认为上下文非常重要，有如下几点理由：
能够保持对话的连贯性：在日常对话交谈中，如果有人突然提到“那只狗?”，我们能立即明白他指的是之前讨论过的那只狗?，而不是凭空出现的一只新狗。长上下文（Large context windows）或检索增强生成（RAG）技术能够帮助 LLMs 在交互过程中保持这种语义连贯性。 理解复杂信息及其复杂关系：某些任务需要理解信息之间错综复杂的关系。比如，要准确总结一篇学术论文，就需要理解研究方法与实验结果之间的联系。长上下文或 RAG 使 LLMs 能够全面考虑所有相关内容，从而更深入地把握整体信息。 减少"幻觉"现象：LLMs 在缺乏足够的上下文信息时，可能会自行编造数据或内容来填补认知空白，导致输出错误荒谬或毫无意义的信息。这种现象在人工智能领域被称为"幻觉（Hallucinations）"。长上下文或 RAG 技术通过提供更多的背景信息，能够有效地将 LLMs 的生成内容锚定在现实基础之上，使其生成内容更符合实际情况。01 长上下文（Large Context Windows）
长上下文让大语言模型（LLMs）在生成响应前能处理更多的文本信息。这说明 LLMs 可以一次性掌握大量的数据和信息，从而更好地把握全局，生成的模型响应也更能贴合对话主题。这对于那些需要深度理解对话历史或背景信息的任务尤其有用。不过，处理海量文本会带来较高的计算成本，同时也会影响处理速度。
02 利用缓存优化长上下文技术的好处
在处理长上下文带来的计算负担时，采用缓存策略是一种有效的成本优化途径。缓存机制会保存已处理过的上下文信息，以便在遇到类似提示词时能迅速调用，这一举措能够大幅缩短模型响应时间，尤其在执行重复性工作时效果显著。
实例解析：设想一个专门用于总结学术论文的大语言模型。借助缓存功能，LLMs 能够存储之前分析过的论文段落（如引言、实验方法等）。当接收到一篇新论文，且其结构与以往处理过的论文类似时，模型便能直接调用缓存中的相关上下文，仅需集中精力分析创新部分的内容（如实验结果和结论）。
不过，启用缓存也会给系统引入额外的复杂度。决策者必须权衡哪些信息值得缓存以及缓存期多长时间。此外，缓存是否有效直接取决于提示词的可预测性（predictability） 。若用户的提示词内容变化无常，缓存的效果可能会大打折扣。
03 RAG：检索增强生成技术
RAG 技术能够显著提升大语言模型（如 GPT-3 等）的准确度与可靠性。其核心在于将 LLMs 与外部知识库（如维基百科或企业内部文档）连接，使得模型在生成响应前，能够先从这些知识库中检索并使用最相关的信息。相较于单纯依赖缓存长上下文的方法，RAG 的优势如下：
效率提升：RAG 只检索最相关的关键信息，因此速度更快，成本效益更高。 准确性增强：聚焦于最相关的信息有效降低了大模型出现幻觉的风险，确保了叙述的事实更为准确。然而，RAG 技术的引入虽开辟了一条新路径，却也伴随着较高的前期工作成本。RAG 系统的搭建与运维，需依托于一套复杂的检索机制，该机制依赖向量搜索（vector search）及嵌入（embeddings）技术，以确保 LLM 能够高效获取最为契合的信息资源。
04 RAG 对比长上下文：权衡与选择
长上下文（Large context windows）赋予 LLMs 直接处理海量历史信息的能力，尤其适用于需要进行深度分析的复杂任务。然而，这种全面覆盖的方式计算成本较高，执行效率相对低下。RAG 则另辟蹊径，利用检索系统，从庞大的知识库中精挑细选出最相关的信息片段供给 LLM 使用。此举不仅能够提速增效，还可以大幅节省成本，并有效降低出错的风险。但需要注意的是，RAG 的高效运行需仰仗一套完善的数据检索体系，且初期部署较为繁琐。综上所述，这个问题的最优解应基于决策者对深度分析能力、系统运行效率的要求。
决策指南概览：
带缓存的长上下文：当面对需深度剖析的大数据集，并且提示词具有一定的可预测性，利于缓存机制发挥效能时，此选项值得考虑。 RAG：如若信奉效率至上，追求事实的准确性，或使用场景的提示词内容变化莫测，此时缓存机制的作用有限，则 RAG 可成为优选方案。总体而言，理想的技术策略应紧密结合项目特性和可利用的资源数量。进行决策时，务必综合考虑使用成本、准确性、部署运维难度以及提示词内容的可预测性。希望本文能够帮助各位读者准确理解 RAG 技术与长上下文技术间的本质区别，敬请关注本博客，不要错过后续精彩内容哦~
Thanks for reading!
Priyanka Vergadia
topmate.io/pvergadia
Head of North America Developer Advocacy @Google | Author | Technical Storyteller | Cloud Computing & AI | bio.link/pvergadia
读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用
对于0基础小白入门：
如果你是零基础小白，想快速入门大模型是可以考虑的。
一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
资源分享
大模型AGI学习包
资料目录
成长路线图&学习规划 配套视频教程 实战LLM 人工智能比赛资料 AI人工智能必读书单 面试题合集《人工智能\大模型入门学习大礼包》，可以扫描下方二维码免费领取！
1.成长路线图&学习规划
要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。
对于从来没有接触过网络安全的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。
2.视频教程
很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，其中一共有21个章节，每个章节都是当前板块的精华浓缩。
3.LLM
大家最喜欢也是最关心的LLM（大语言模型）
《人工智能\大模型入门学习大礼包》，可以扫描下方二维码免费领取！
总结
### 文章总结**主题**：本文聚焦于提升大语言模型（LLMs）上下文理解能力的两种主流技术——长上下文（Large Context Windows）和检索增强生成（RAG），并探讨了它们各自的优势、应用场景及选择策略。
**上下文理解的重要性**：
- **保持对话连贯性**：确保LLMs在交互中保持语义连贯。
- **理解复杂信息**：帮助LLMs全面把握信息及其复杂关系。
- **减少“幻觉”现象**：通过提供更多背景信息，减少LLMs编造数据的风险。
**长上下文（Large Context Windows）**：
- **优势**：允许LLMs处理大量文本信息，生成更贴合主题的响应，尤其适用于深度分析任务。
- **挑战**：计算成本高，处理速度慢。
- **优化策略**：使用缓存机制减少计算负担，但效果取决于提示词的可预测性。
**检索增强生成（RAG）**：
- **优势**：连接外部知识库，提高准确性和效率，降低出错风险。
- **挑战**：需要复杂的检索机制，初期部署成本较高。
**技术选择权衡**：
- **带缓存的长上下文**：适用于需深度分析大数据集且提示词可预测的场景。
- **RAG**：追求效率、准确性，或提示词变化无常时更合适。
**决策指南**：
- 综合考虑使用成本、准确性、部署运维难度及提示词内容的可预测性。
**读者福利**：
- 提供大模型学习资料，包括成长路线图、视频教程、实战LLM、人工智能比赛资料、必读书单及面试题合集，帮助零基础小白快速入门。
**总结**：本文深入分析了长上下文和RAG技术的优劣，为技术选型提供了有价值的参考，并期待未来更多提升LLMs上下文理解能力的创新方案。