-
什么是Agentic RAG？
Agentic RAG是检索增强生成(Retrieval-Augmented Generation, RAG 技术的一种高级形式,它通过引入人工智能代理(Agent 的概念,为语言模型赋予了更高层次的智能和自主性。以下是Agentic RAG的主要特点和优...
-
字节面试官：什么是RRF，你能解释一下吗？
我是丁师兄，专注于智能驾驶方向大模型落地，公众号：丁师兄大模型。 大模型1v1学习，已帮助多名同学上岸国内外大厂 前字节员工跳槽，面了 40 多家才拿到一个 offer，还是降薪 60%，大厂如此，更别提中小厂了。。。目前这种形势，最好的策略就...
-
AIGC 对软件研发的根本性影响：AI编程意味着什么？
大家好，我是通义灵码的产品技术负责人陈鑫。过去有八年时间，我都是在阿里集团做研发效能，即研发工具相关的工作。 我们从 2015 年开始做一站式 DevOps 平台，然后打造了云效，也就是将 DevOps 平台实现云化。到了 2023 年，我们明显感觉到大...
-
基于云原生向量数据库 PieCloudVector 的 RAG 实践
近年来，人工智能生成内容（AIGC）已然成为最热门的话题之一。工业界出现了各种内容生成工具，能够跨多种模态产生多样化的内容。这些主流的模型能够取得卓越表现，归功于创新的算法、模型规模的大幅扩展，以及海量的高质量数据集。然而 AIGC 依然面临一系列挑战，检...
-
RAG 的优化进阶与引入 Reranker
引言 在简单的 RAG 系统中，通过结合检索和生成技术，已经可以显著提升了对复杂查询的响应质量。Reranker 作为 RAG 系统中一个关键的进阶组件，通过对原 RAG 中检索到的内容进行重新组织，可以进一步提高系统的准确性。 本文将深入探讨 RA...
-
使用 Llama-Agents、Qdrant 和 Kafka 进行高级实时 RAG
简介 在当今数据驱动的世界中，实时处理和检索信息的能力至关重要。本文深入探讨了使用Llama-Agents、Qdrant 和 Kafka 的高级实时检索增强生成 (RAG 。通过集成这些强大的工具，我们创建了一个可以有效管理数据提取、处理和检索的代理系...
-
LLM之基于llama-index部署本地embedding与GLM-4模型并初步搭建RAG（其他大模型也可，附上ollma方式运行）
前言 日常没空，留着以后写 llama-index简介 官网：https://docs.llamaindex.ai/en/stable/ 简介也没空，以后再写 注：先说明，随着官方的变动，代码也可能变动，大家运行不起来，可以进官网查查资料...
-
手把手系列 ｜ 使用Milvus、Llama 3、Ollama、LangChain本地设置RAG应用
随着 Llama、Mistral、Gemma 等开源大语言模型（LLM）的出现，我们越来越能感受到 LLM 的力量，而本地运行基于 LLM 的 RAG 应用的需求越来越强烈。在将应用推至生产环境前，我们往往都需要先本地运行和测试。 因此，本...
-
NVIDIA把Llama-3的上下文长度扩展16倍，长上下文理解能力超越GPT-4
在 Llama-3.1 模型发布之前，开源模型与闭源模型的性能之间一直存在较大的差距，尤其是在长上下文理解能力上。 大模型的上下文处理能力是指模型能够处理的输入和输出 Tokens 的总数。这个长度有一个限制，超过这个限制的内容会被模型忽略。一般而...
-
检索生成(RAG) vs 长文本大模型：实际应用中如何选择？
编者按：大模型的上下文理解能力直接影响到 LLMs 在复杂任务和长对话中的表现。本期内容聚焦于两种主流技术：长上下文(Large Context Windows 和检索增强生成(RAG 。这两种技术各有何优势？在实际应用中，我们又该如何权衡选择？ 文章...
-
AI风险管理新利器：SAIF CHECK利用Meta Llama 3保障合规与安全
每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同...
-
知识图谱大模型系列之 17 使用 Llamaindex、Neo4j 和 Llama 3 构建具有知识图谱的高级 RAG 聊天机器人(教程含源码)
简介 通过集成知识图谱来构建高级检索增强生成 (RAG 聊天机器人的分步指南。在检索增强生成 (RAG 解决方案中集成知识图谱可通过提供结构化和关系上下文显著提高响应的相关性和深度。知识图谱在 RAG 解决方案中非常有用，例如在医疗保健领域。例如，...
-
【Qwen2微调实战】LLaMA-Factory框架对Qwen2-7B模型的微调实践
系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...
-
一文彻底搞定 RAG、知识库、 Llama-3！！
▼最近直播超级多，预约保你有收获 —1— 使用 Llama-3 搞定 RAG 检索增强生成（Retrieval Augmented Generation，RAG）是一种强大的工具，它通过将企业外部知识整合到生成过程中，增强了大语言...
-
Llama 3.1超大405B！AI巨浪再掀新高潮
前沿科技速递? Meta公司宣布开放的Llama 3.1系列模型，以其惊人的128K上下文长度、对八种语言的支持以及业界领先的405B开放式最前沿AI模型，瞬间吸引了全球科技界的目光。该系列模型不仅在通用知识、可控性、数学、工具使用和多语言翻译等方面表...
-
[AI 大模型] 百度 文心一言
文章目录 [AI 大模型] 百度 文心一言 简介 模型架构 发展 新技术和优势 API 代码示例 [AI 大模型] 百度 文心一言 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-0DwAIh0...
-
AI自学超越人工标注训练，蚂蚁数科2篇自监督学习论文入选国际顶会
近日，蚂蚁数科2项研究成果分别入选“欧洲计算机视觉会议（ECCV）”和“国际机器学习大会(ICML ”，可实现无需人工打标数据的情况下，通过自监督学习、强化学习等方法训练模型输出可信结果。据悉，两项成果将被应用于视频版权保护和智能问答领域。作为人工智能领域...
-
文心一言用户达3亿！文心大模型4.0 Turbo发布，支持API，真GPT-4 Turbo国产来了！
文心一言用户规模达到3亿了！ 这是笔者在今天的百度Wave Summit 2024大会上的看到的数字。需要强调的是，文心一言的用户规模是在去年12月破亿的。这意味着，仅仅隔了6个月，文心一言用户数量在亿这个级别的数字上竟然直接翻了三倍。 近几年，大家常...
-
RAG微调Llama 3竟超越GPT-4！英伟达GaTech华人学者提出RankRAG框架
【新智元导读】来自佐治亚理工学院和英伟达的两名华人学者带队提出了名为RankRAG的微调框架，简化了原本需要多个模型的复杂的RAG流水线，用微调的方法交给同一个LLM完成，结果同时实现了模型在RAG任务上的性能提升。 在需要大量事实知识的文本生成任务中，R...
-
【AIGC评测体系】大模型评测指标集
大模型评测指标集 （☆）SuperCLUE （1）SuperCLUE-V（中文原生多模态理解测评基准） （2）SuperCLUE-Auto（汽车大模型测评基准） （3）AIGVBench-T2V（文生视频基准测评） （4）SuperCLUE-C...
-
理财AI勇闯「无人区」：理解专家、成为专家
用十年时间成为全球在线服务数亿用户的财富管理平台后，摆在蚂蚁财富面前的是一段少有人走过的路: 这5亿活跃用户第一次动动手就能接触到各类普惠的理财产品，但真正理财行为成熟的仅占两成。而放眼中国7.2亿基金投资者里，每3600人才能分到1位传统理财顾问来服务。...
-
蚂蚁集团WAIC发布大模型密算平台，助力大模型破解数据供给挑战
大模型向下扎根深入行业，必须要破解高质量数据供给的挑战。7月5日，2024年世界人工智能大会进入第二天，作为数据要素领域的主要技术服务商，蚂蚁集团发布“隐语Cloud”大模型密算平台，通过软硬件结合的可信隐私计算技术，在大模型托管和大模型推理等环节实现数据...
-
微软开源GraphRAG：极大增强大模型问答、摘要、推理
7月3日，微软在官网开源了基于图的RAG（检索增强生成）——GraphRAG。 为了增强大模型的搜索、问答、摘要、推理等能力，RAG已经成为GPT-4、Qwen-2、文心一言、讯飞星火、Gemini等国内外知名大模型标配功能。 传统的RAG系统在处理外部数...
-
Denodo9.0发布 通过AI就绪数据功能等实现智能数据交付
最 新版本增强了智能数据自助服务和转换功能，让更多用户能够轻松利用数据获得强大洞察力。 近日，数据管理领域领导 者 Denodo 宣布推出 Denodo 平台 V9.0。这一最 新版本采用人工智能驱动，支持自然语言查询，用户无需了解 SQL 即可获取数据洞...
-
CIO应重点关注的领域，以维持GenAI的势头
GenAI仍然是大多数企业的首要投资重点，而且期望值很高。根据普华永道的最新调查，美国61%的CEO预期AI将改变他们的业务价值生成方式，但要实现这一目标，企业必须将AI的炒作转化为现实。 好消息是，他们在这方面越来越擅长。事实上，根据Databric...
-
llama系列模型学习
一、目录 llama1 模型与transformer decoder的区别 llama2 模型架构 llama2 相比llama1 不同之处 llama3 相比llama2 不同之处 llama、llama2、llama3 分词器词表大小以及优缺点...
-
AI批量制造“张雪峰”
“那有可能你要放弃学医了”，高考前的最后一次连麦，张雪峰上来就给咨询的农村考生浇了一盆冷水。 在张雪峰的视角里，该学生想以平时490-500分的成绩报考中医专业难度太大，更何况后期的考研和工作。基于此，张雪峰直接下了劝退令。 不过，考虑到考生的农村出身，张...
-
#RAG | AIGC # RAG召回率提升的方法以及优劣势
RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的模型，用于增强大型语言模型（LLMs）的性能。召回率（Recall）是衡量RAG系统性能的关键指标之一，它表示系统能...
-
文心一言 vs GPT-4 -- 全面横向比较
文心一言和GPT-4都是当前非常先进的自然语言处理模型，它们在语言理解、生成和翻译等方面都展现出了出色的能力。以下是对这两个模型的全面横向比较： 核心技术基础： 文心一言：是基于BERT（Bidirectional Encoder Represen...
-
RAFT：引领 Llama 在 RAG 中发展
每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同...
-
从提示工程到代理工程：构建高效AI代理的策略框架概述
自ChatGPT推出以来，仅仅一年多的时间里，公众对于“人工智能”（AI）的认识已经发生了根本性的变化。这种变化部分源于公众意识的提高，更多则是基于这样一个认识：AI驱动的系统不仅可能，而且可能已经具备了与人类相当的能力和表现。ChatGPT不仅是AI能...
-
使用Rag和Sem-Rag提供上下文增强AI编码助手
通过将检索增强生成和语义记忆纳入 AI 编码助手，提升开发人员的生产力、效率和准确性。 译自Enhancing AI Coding Assistants with Context Using RAG and SEM-RAG，作者 Janakiram MS...
-
RAG 架构如何克服 LLM 的局限性
检索增强生成促进了 LLM 和实时 AI 环境的彻底改造，以产生更好、更准确的搜索结果。 译自How RAG Architecture Overcomes LLM Limitations，作者 Naren Narendran。 在本系列的第一部分中，我重...
-
为什么你的RAG不起作用？失败的主要原因和解决方案
无数企业正在尝试使用检索增强生成（RAG），但在制作这些系统达到生产质量时普遍会感到失望。因为他们的RAG不仅运行效果差，而且对于如何改进和如何进行后续的工作也感到十分的迷茫。 其实阻碍RAG系统的一个关键因素是语义不协调，这是由于任务的预期含义、RA...
-
AI让网友“吃石头”闹得沸沸扬扬，谷歌副总裁发博回应：不是幻觉
最近一周，网上关于谷歌AI overview（AI概览）的讨论沸沸扬扬，简直快要扛起X平台科技区的流量大旗。 这款在2023年5月就推出测试版的AI搜索，在正式上线前已处理了超十亿次查询，却依旧没能逃过翻车的命运，原因是它仍无法判断“人能不能吃石头、喝胶水...
-
ChatGPT真能记住你的话吗？DeepMind与开源大佬揭示LLM记忆之谜
Django框架的创始人之一、著名开发者Simon Willison最近发表了一篇博客文章，核心观点是——虽然很多LLM看起来有记忆，但本质上是无状态函数。 文章地址：https://simonwillison.net/2024/May/29/trai...
-
详解生成式人工智能的开发过程
译者 | 晶颜 审校 | 重楼 开发生成式人工智能应用程序与开发传统的机器学习应用程序非常不同，以下是步骤详解。 回到机器学习的“古老”时代，在您可以使用大型语言模型(LLM 作为调优模型的基础之前，您基本上必须在所有数据上训练每个可能的机器学习模型，...
-
华信永道联合智谱AI发布“智道奇点”政务大模型SagesrvGLM
近日，由华信永道（北京）科技股份有限公司与北京智谱华章科技有限公司(智谱AI 联手打造的政务服务人工智能大模型——智道奇点SagesrvGLM，在北京盛大发布。这一创新产品不仅吸引了众多政府官员、企业代表和媒体的眼球，更以其卓越的技术特性和深远的行业影响，...
-
从大模型（LLM）、检索增强生成（RAG）到智能体（Agent）的应用
引言 随着人工智能技术的飞速发展，大型语言模型（LLM）、检索增强生成（RAG）和智能体（Agent）已经成为推动该领域进步的关键技术，这些技术不仅改变了我们与机器的交互方式，而且为各种应用和服务的开发提供了前所未有的可能性。正确理解这三者的概念及其之间...
-
离大模型落地应用最近的工程化技术(RAG)
虽然大规模语言模型（LLM）在自然语言处理（NLP）方面表现出了其强大的文本生成和理解能力，但是它们在实际应用中仍然面临一些挑战，如处理大规模知识库和实时获取最新信息的能力，并且会产生幻觉。为了解决这些问题，检索增强生成（Retrieval-Augmen...
-
大模型“价格战”开打，给刚入商业化“佳境”的智谱AI提出了新挑战
1块钱买100万个tokens，为跟上Open AI，这家公司先给自己打个“骨折价”。 1 一比一复刻Open AI AI大模型在商业化路途中还在摸索，便已开打“价格战”。 5月15日，字节跳动宣布，豆包通用模型pro在企业市场的定价为0.0008元/千T...
-
知识图与大型语言模型的协同作用
从非结构化文本中提取有价值的见解是金融行业的关键应用。然而，这项任务往往超出了简单的数据提取，需要高级推理能力。 一个典型的例子是确定信贷协议中的到期日，这通常涉及破译一个复杂的指令，如“到期日应在生效日期三周年之前的最后一个工作日”。这种级别的复杂推...
-
「大模型」之所短，「知识图谱」之所长
最近一年以来，大语言模型技术突飞猛进，被广泛地认为开启了人工智能研究的新阶段。大语言模型时代的到来，给知识图谱技术也带来了新的机遇与挑战。我们在 5 月份的时候曾经发布过知识图谱与 AIGC 大模型的知识地图，其中包括了文本生成、图像生成等技术。本次分享...
-
通义灵码技术解析，打造 AI 原生开发新范式
大家好，我是通义灵码的产品技术负责人陈鑫。过去有八年时间，我都是在阿里集团做研发效能，即研发工具相关的工作。 我们从2015年开始做一站式 DevOps 平台，然后打造了云效，也就是将 DevOps 平台实现云化。到了2023年，我们明显感觉到大模型时代来...
-
Fine-Tuning Vs RAG ，该如何选择？
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - LLM 构建块：向量、令牌和嵌入 。 随着技术的不断进步，LLM 带来了前所未有的机遇，吸引了开发者和组织纷纷尝试利用其强大的能力构建应用程序。然而，当预训...
-
生成式AI模型大PK——GPT-4、Claude 2.1和Claude 3.0 Opus
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 简介 当前，RAG(检索增强生成 系统的新评估似乎每天都在发布，其中许多都集中在有关框架的检索阶段。然而，生成方面——模型如何合成和表...
-
当「软件研发」遇上 AI 大模型
作者：陈鑫（神秀） 大家好，我是通义灵码的产品技术负责人陈鑫。过去有八年时间，我都是在阿里集团做研发效能，即研发工具相关的工作。 我们从 2015 年开始做一站式 DevOps 平台，然后打造了云效，也就是将 DevOps 平台实现云化。到了 2023...
-
最懂打工人的AI特助万知来了，李开复在线催更！2分钟手机直出PPT效率×10
【新智元导读】这款最适合中国宝宝体质的AI个人特助，直接让打工效率原地×10!5000页长文档速读，2分钟搞定PPT，表格公式代码全输出。而且，CEO李开复还亲自出任首席体验官，倾听你的反馈。 快节奏的生活已经成为当今时代的常态，职场中的我们不仅要应对工作...
-
开发者的LlamaIndex入门指南
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ LlamaIndex是一个专注于检索增强生成(RAG 的工具，可以协助您丰富大模型的数据提示。本文将用实例向您展示和介绍。 众所周知，...
-
理解GraphRAG（一）：RAG的挑战
检索增强生成（RAG）是一种通过外部知识源增强现有大型语言模型（LLM）的方法，以提供和上下文更相关的答案。在RAG中，检索组件获取额外的信息，使响应基于特定来源，然后将这些信息输入到LLM提示中，以使LLM的响应基于这些信息（增强阶段）。与其他技术（例...