-
字节面试官：什么是RRF，你能解释一下吗？
我是丁师兄，专注于智能驾驶方向大模型落地，公众号：丁师兄大模型。 大模型1v1学习，已帮助多名同学上岸国内外大厂 前字节员工跳槽，面了 40 多家才拿到一个 offer，还是降薪 60%，大厂如此，更别提中小厂了。。。目前这种形势，最好的策略就...
-
基于云原生向量数据库 PieCloudVector 的 RAG 实践
近年来，人工智能生成内容（AIGC）已然成为最热门的话题之一。工业界出现了各种内容生成工具，能够跨多种模态产生多样化的内容。这些主流的模型能够取得卓越表现，归功于创新的算法、模型规模的大幅扩展，以及海量的高质量数据集。然而 AIGC 依然面临一系列挑战，检...
-
RAG 的优化进阶与引入 Reranker
引言 在简单的 RAG 系统中，通过结合检索和生成技术，已经可以显著提升了对复杂查询的响应质量。Reranker 作为 RAG 系统中一个关键的进阶组件，通过对原 RAG 中检索到的内容进行重新组织，可以进一步提高系统的准确性。 本文将深入探讨 RA...
-
使用 Llama-Agents、Qdrant 和 Kafka 进行高级实时 RAG
简介 在当今数据驱动的世界中，实时处理和检索信息的能力至关重要。本文深入探讨了使用Llama-Agents、Qdrant 和 Kafka 的高级实时检索增强生成 (RAG 。通过集成这些强大的工具，我们创建了一个可以有效管理数据提取、处理和检索的代理系...
-
手把手系列 ｜ 使用Milvus、Llama 3、Ollama、LangChain本地设置RAG应用
随着 Llama、Mistral、Gemma 等开源大语言模型（LLM）的出现，我们越来越能感受到 LLM 的力量，而本地运行基于 LLM 的 RAG 应用的需求越来越强烈。在将应用推至生产环境前，我们往往都需要先本地运行和测试。 因此，本...
-
NVIDIA把Llama-3的上下文长度扩展16倍，长上下文理解能力超越GPT-4
在 Llama-3.1 模型发布之前，开源模型与闭源模型的性能之间一直存在较大的差距，尤其是在长上下文理解能力上。 大模型的上下文处理能力是指模型能够处理的输入和输出 Tokens 的总数。这个长度有一个限制，超过这个限制的内容会被模型忽略。一般而...
-
检索生成(RAG) vs 长文本大模型：实际应用中如何选择？
编者按：大模型的上下文理解能力直接影响到 LLMs 在复杂任务和长对话中的表现。本期内容聚焦于两种主流技术：长上下文(Large Context Windows 和检索增强生成(RAG 。这两种技术各有何优势？在实际应用中，我们又该如何权衡选择？ 文章...
-
知识图谱大模型系列之 17 使用 Llamaindex、Neo4j 和 Llama 3 构建具有知识图谱的高级 RAG 聊天机器人(教程含源码)
简介 通过集成知识图谱来构建高级检索增强生成 (RAG 聊天机器人的分步指南。在检索增强生成 (RAG 解决方案中集成知识图谱可通过提供结构化和关系上下文显著提高响应的相关性和深度。知识图谱在 RAG 解决方案中非常有用，例如在医疗保健领域。例如，...
-
使用GraphRAG+LangChain+Ollama：LLaMa 3.1跑通知识图谱与向量数据库集成（Neo4j）
我将向你展示如何使用 LLama 3.1（一个本地运行的模型）来执行GraphRAG操作，总共就50号代码。。。 首先，什么是GraphRAG？GraphRAG是一种通过考虑实体和文档之间的关系来执行检索增强生成的方式，关键概念是节点和关系。 ▲...
-
【Qwen2微调实战】LLaMA-Factory框架对Qwen2-7B模型的微调实践
系列篇章💥 No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...
-
一文彻底搞定 RAG、知识库、 Llama-3！！
▼最近直播超级多，预约保你有收获 —1— 使用 Llama-3 搞定 RAG 检索增强生成（Retrieval Augmented Generation，RAG）是一种强大的工具，它通过将企业外部知识整合到生成过程中，增强了大语言...
-
阿里国际推出首个专业版AI Search，为什么它会是下一个B2B谷歌？
经历过「千模大战」的喧嚣，一年半之后，生成式 AI 的应用层创新终于步入爆发期。 年初的 Sora 激起一阵 AI + 视频生成的浪潮。涟漪未散，OpenAI 新的 SearchGPT 又燃起了 AI + 搜索的战火。 AI + 搜索，这其实是生成式 AI...
-
Llama 3.1超大405B！AI巨浪再掀新高潮
前沿科技速递🚀 Meta公司宣布开放的Llama 3.1系列模型，以其惊人的128K上下文长度、对八种语言的支持以及业界领先的405B开放式最前沿AI模型，瞬间吸引了全球科技界的目光。该系列模型不仅在通用知识、可控性、数学、工具使用和多语言翻译等方面表...
-
2024-06-21 问AI: 在大语言模型中，什么是LLama Index
文心一言 LLama Index是一个针对基于LLM（大型语言模型）的应用程序的数据框架，旨在提供RAG（检索增强生成，Retrieval-Augmented Generation）能力。以下是关于LLama Index的清晰概述： 定义与功能：...
-
RAG微调Llama 3竟超越GPT-4！英伟达GaTech华人学者提出RankRAG框架
【新智元导读】来自佐治亚理工学院和英伟达的两名华人学者带队提出了名为RankRAG的微调框架，简化了原本需要多个模型的复杂的RAG流水线，用微调的方法交给同一个LLM完成，结果同时实现了模型在RAG任务上的性能提升。 在需要大量事实知识的文本生成任务中，R...
-
【AIGC评测体系】大模型评测指标集
大模型评测指标集 （☆）SuperCLUE （1）SuperCLUE-V（中文原生多模态理解测评基准） （2）SuperCLUE-Auto（汽车大模型测评基准） （3）AIGVBench-T2V（文生视频基准测评） （4）SuperCLUE-C...
-
微软开源GraphRAG：极大增强大模型问答、摘要、推理
7月3日，微软在官网开源了基于图的RAG（检索增强生成）——GraphRAG。 为了增强大模型的搜索、问答、摘要、推理等能力，RAG已经成为GPT-4、Qwen-2、文心一言、讯飞星火、Gemini等国内外知名大模型标配功能。 传统的RAG系统在处理外部数...
-
Denodo9.0发布 通过AI就绪数据功能等实现智能数据交付
最 新版本增强了智能数据自助服务和转换功能，让更多用户能够轻松利用数据获得强大洞察力。 近日，数据管理领域领导 者 Denodo 宣布推出 Denodo 平台 V9.0。这一最 新版本采用人工智能驱动，支持自然语言查询，用户无需了解 SQL 即可获取数据洞...
-
CIO应重点关注的领域，以维持GenAI的势头
GenAI仍然是大多数企业的首要投资重点，而且期望值很高。根据普华永道的最新调查，美国61%的CEO预期AI将改变他们的业务价值生成方式，但要实现这一目标，企业必须将AI的炒作转化为现实。 好消息是，他们在这方面越来越擅长。事实上，根据Databric...
-
AI批量制造“张雪峰”
“那有可能你要放弃学医了”，高考前的最后一次连麦，张雪峰上来就给咨询的农村考生浇了一盆冷水。 在张雪峰的视角里，该学生想以平时490-500分的成绩报考中医专业难度太大，更何况后期的考研和工作。基于此，张雪峰直接下了劝退令。 不过，考虑到考生的农村出身，张...
-
#RAG | AIGC # RAG召回率提升的方法以及优劣势
RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的模型，用于增强大型语言模型（LLMs）的性能。召回率（Recall）是衡量RAG系统性能的关键指标之一，它表示系统能...
-
从提示工程到代理工程：构建高效AI代理的策略框架概述
自ChatGPT推出以来，仅仅一年多的时间里，公众对于“人工智能”（AI）的认识已经发生了根本性的变化。这种变化部分源于公众意识的提高，更多则是基于这样一个认识：AI驱动的系统不仅可能，而且可能已经具备了与人类相当的能力和表现。ChatGPT不仅是AI能...
-
使用Rag和Sem-Rag提供上下文增强AI编码助手
通过将检索增强生成和语义记忆纳入 AI 编码助手，提升开发人员的生产力、效率和准确性。 译自Enhancing AI Coding Assistants with Context Using RAG and SEM-RAG，作者 Janakiram MS...
-
RAG 架构如何克服 LLM 的局限性
检索增强生成促进了 LLM 和实时 AI 环境的彻底改造，以产生更好、更准确的搜索结果。 译自How RAG Architecture Overcomes LLM Limitations，作者 Naren Narendran。 在本系列的第一部分中，我重...
-
为什么你的RAG不起作用？失败的主要原因和解决方案
无数企业正在尝试使用检索增强生成（RAG），但在制作这些系统达到生产质量时普遍会感到失望。因为他们的RAG不仅运行效果差，而且对于如何改进和如何进行后续的工作也感到十分的迷茫。 其实阻碍RAG系统的一个关键因素是语义不协调，这是由于任务的预期含义、RA...
-
AI让网友“吃石头”闹得沸沸扬扬，谷歌副总裁发博回应：不是幻觉
最近一周，网上关于谷歌AI overview（AI概览）的讨论沸沸扬扬，简直快要扛起X平台科技区的流量大旗。 这款在2023年5月就推出测试版的AI搜索，在正式上线前已处理了超十亿次查询，却依旧没能逃过翻车的命运，原因是它仍无法判断“人能不能吃石头、喝胶水...
-
ChatGPT真能记住你的话吗？DeepMind与开源大佬揭示LLM记忆之谜
Django框架的创始人之一、著名开发者Simon Willison最近发表了一篇博客文章，核心观点是——虽然很多LLM看起来有记忆，但本质上是无状态函数。 文章地址：https://simonwillison.net/2024/May/29/trai...
-
详解生成式人工智能的开发过程
译者 | 晶颜 审校 | 重楼 开发生成式人工智能应用程序与开发传统的机器学习应用程序非常不同，以下是步骤详解。 回到机器学习的“古老”时代，在您可以使用大型语言模型(LLM 作为调优模型的基础之前，您基本上必须在所有数据上训练每个可能的机器学习模型，...
-
华信永道联合智谱AI发布“智道奇点”政务大模型SagesrvGLM
近日，由华信永道（北京）科技股份有限公司与北京智谱华章科技有限公司(智谱AI 联手打造的政务服务人工智能大模型——智道奇点SagesrvGLM，在北京盛大发布。这一创新产品不仅吸引了众多政府官员、企业代表和媒体的眼球，更以其卓越的技术特性和深远的行业影响，...
-
从大模型（LLM）、检索增强生成（RAG）到智能体（Agent）的应用
引言 随着人工智能技术的飞速发展，大型语言模型（LLM）、检索增强生成（RAG）和智能体（Agent）已经成为推动该领域进步的关键技术，这些技术不仅改变了我们与机器的交互方式，而且为各种应用和服务的开发提供了前所未有的可能性。正确理解这三者的概念及其之间...
-
离大模型落地应用最近的工程化技术(RAG)
虽然大规模语言模型（LLM）在自然语言处理（NLP）方面表现出了其强大的文本生成和理解能力，但是它们在实际应用中仍然面临一些挑战，如处理大规模知识库和实时获取最新信息的能力，并且会产生幻觉。为了解决这些问题，检索增强生成（Retrieval-Augmen...
-
恒生电子首席科学家白硕：长文本和多模态是生成式AI落地金融的两大利器
嘉宾丨白硕 采访/撰稿丨张洁 编辑丨千山 出品 | 51CTO技术栈（微信号：blog51cto） 在千行百业中，金融业一贯是新技术的早期采用者。无论是在数字化水平，还是在关于产业AI化的探索上，都走在了前列。因此，金融业也被视为生成式AI应用落地的潜力...
-
首席人工智能官的基本技能和特质
首席人工智能官（CAIO）需要多维的技能来推动创新、建立和领导AI就绪的文化，并且利用复杂且快速发展的技术取得切实的组织性成果。 AI（尤其是生成式AI）的快速崛起促使许多组织雇用或晋升了首席人工智能官（CAIO）。 迄今为止，很多类似职位都是集中在技术...
-
知识图与大型语言模型的协同作用
从非结构化文本中提取有价值的见解是金融行业的关键应用。然而，这项任务往往超出了简单的数据提取，需要高级推理能力。 一个典型的例子是确定信贷协议中的到期日，这通常涉及破译一个复杂的指令，如“到期日应在生效日期三周年之前的最后一个工作日”。这种级别的复杂推...
-
Fine-Tuning Vs RAG ，该如何选择？
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - LLM 构建块：向量、令牌和嵌入 。 随着技术的不断进步，LLM 带来了前所未有的机遇，吸引了开发者和组织纷纷尝试利用其强大的能力构建应用程序。然而，当预训...
-
生成式AI模型大PK——GPT-4、Claude 2.1和Claude 3.0 Opus
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 简介 当前，RAG(检索增强生成 系统的新评估似乎每天都在发布，其中许多都集中在有关框架的检索阶段。然而，生成方面——模型如何合成和表...
-
《2024年人工智能准备度报告》发布！6成企业拟采用AI，投入生产的仅占其中三分之一；OpenAI稳坐王位；比起RAG更爱微调…
整理 | 伊风 出品 | 51CTO技术栈（微信号：blog51cto） 最近，人工智能公司 Scale AI发布 《2024年人工智能准备度报告》。 该系列报告已经是连续第三年进行发布，本次报告调查采访了1800 多名在企业中构建或应用人...
-
最懂打工人的AI特助万知来了，李开复在线催更！2分钟手机直出PPT效率×10
【新智元导读】这款最适合中国宝宝体质的AI个人特助，直接让打工效率原地×10!5000页长文档速读，2分钟搞定PPT，表格公式代码全输出。而且，CEO李开复还亲自出任首席体验官，倾听你的反馈。 快节奏的生活已经成为当今时代的常态，职场中的我们不仅要应对工作...
-
开发者的LlamaIndex入门指南
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ LlamaIndex是一个专注于检索增强生成(RAG 的工具，可以协助您丰富大模型的数据提示。本文将用实例向您展示和介绍。 众所周知，...
-
理解GraphRAG（一）：RAG的挑战
检索增强生成（RAG）是一种通过外部知识源增强现有大型语言模型（LLM）的方法，以提供和上下文更相关的答案。在RAG中，检索组件获取额外的信息，使响应基于特定来源，然后将这些信息输入到LLM提示中，以使LLM的响应基于这些信息（增强阶段）。与其他技术（例...
-
LLM和RAG技术的比较探索
作者 | Ashok Gorantla 整理 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） 在人工智能（AI）的动态环境中，两种开创性的技术——大型语言模型（LLM）和检索增强生成（RAG）——在理解和生成类人文本方面脱颖而出。本...
-
Nvidia GTC 24：你准备好迎接AI未来了吗？
2024 年 Nvidia GTC 大会涵盖了围绕 AI 时代的主题，这引出了以下总体问题：各行业组织的云和 IT 基础设施是否已为 AI 的未来做好准备? 在主题演讲中，Nvidia 首席执行官黄仁勋在加州圣何塞 SAP 中心向观众发表了两个小时的...
-
LinkedIn在利用大型语言模型服务十亿用户中的收获
LinkedIn 在全球拥有超过10亿用户，不断挑战当今企业技术的极限。很少有公司能够像LinkedIn那样运营，或者拥有类似的大量数据资源。 对这个专注于商业和就业的社交媒体平台来说，将合格的候选人与潜在雇主连接起来，帮助填补职位空缺是其核心业务。同...
-
Llama 3没能逼出GPT-5！OpenAI怒“卷”To B战场，新企业级 AI 功能重磅推出！
编译 | 伊风 出品 | 51CTO技术栈（微信号：blog51cto） Meta 是本周当之无愧的AI巨星！刚刚推出的 Llama 3 凭借着强大的性能和开源生态的优势在 LLM 排行榜上迅速跃升。 按理说，Llama 3在开源的状态下做到了 GPT-...
-
RAG 2.0架构详解：构建端到端检索增强生成系统
关于检索增强生成（RAG）的文章已经有很多了，如果我们能创建出可训练的检索器，或者说整个RAG可以像微调大型语言模型（LLM）那样定制化的话，那肯定能够获得更好的结果。但是当前RAG的问题在于各个子模块之间并没有完全协调，就像一个缝合怪一样，虽然能够工作...
-
提高 RAG 应用准确度，时下流行的 Reranker 了解一下？
检索增强生成（RAG）是一种新兴的 AI 技术栈，通过为大型语言模型（LLM）提供额外的“最新知识”来增强其能力。 基本的 RAG 应用包括四个关键技术组成部分： Embedding 模型：用于将外部文档和用户查询转换成 Embedding 向量...
-
Anthropic Claude 3 Opus基础模型在Amazon Bedrock上正式可用
北京——2024年4月17日 亚马逊云科技宣布，在Amazon Bedrock上正式推出来自Anthropic的Claude 3 Opus模型，该模型是Claude 3家族中最智能的模型，在高度复杂的任务上表现卓越，并拥有惊人的流畅性和类似人类的理解能力...
-
开源模型首胜GPT-4！竞技场最新战报引热议，Karpathy：这是我唯二信任的榜单
能打得过GPT-4的开源模型出现了！ 大模型竞技场最新战报： 1040亿参数开源模型Command R+攀升至第6位，与GPT-4-0314打成平手，超过了GPT-4-0613。 图片 这也是第一个在大模型竞技场上击败GPT-4的开放权重模型。 大模型竞...
-
Intel发布Gaudi 3 AI加速器：4倍性能提升、无惧1800亿参数大模型
快科技4月10日消息，美国当地时间4月9日，Intel举办了一场面向客户和合作伙伴的Intel Vision 2024产业创新大会，做出多项重磅宣布，包括全新的Gaudi 3 AI加速器，包括全新的至强6品牌，以及涵盖全新开放、可扩展系统，下一代产品和一系...
-
Cohere推出大模型Command R+ 优化高级检索增强生成功能
Cohere推出了专为企业级工作负载设计的大型语言模型Command R+，该模型优化了高级检索增强生成（RAG）功能，以减少错误生成，并支持10种关键语言的多语言覆盖。 公告地址：https://top.aibase.com/tool/command-...