-
使用 Ollama、Llama 3.1 和 Milvus 实现Function Calling 功能
将函数调用（Function Calling）与 LLM 相结合能够扩展您的 AI 应用的能力。通过将您的大语言模型（LLM）与用户定义的 Function 或 API 集成，您可以搭建高效的应用，解决实际问题。 本文将介绍如何将 L...
-
OpenAI开启推理算力新Scaling Law，AI PC和CPU的机会来了
OpenAI的新模型o1，可谓是开启了Scaling Law的新篇章—— 随着更多的强化学习（训练时计算）和更多的思考时间(测试时计算 ，o1在逻辑推理能力上已经达到了目前天花板级别。 尤其是在北大给出的一项评测中，o1-mini模型的跑分比o1-prev...
-
手把手系列 ｜ 使用Milvus、Llama 3、Ollama、LangChain本地设置RAG应用
随着 Llama、Mistral、Gemma 等开源大语言模型（LLM）的出现，我们越来越能感受到 LLM 的力量，而本地运行基于 LLM 的 RAG 应用的需求越来越强烈。在将应用推至生产环境前，我们往往都需要先本地运行和测试。 因此，本...
-
使用Llama 私有化模型检索文档回答问题
部署 Llama 模型 Llama 属于文字生成模型，可以用于聊天。使用 Ollama 部署 Llama 模型，先安装 Ollama sudo curl -L https://ollama.com/download/ollama-linux-amd64...
-
使用 Ollama、Llama 3.1 和 Milvus 进行函数调用案例
偶然看到一篇很短代码就能实现llama function call的文章。 秉着学习加分项的原则，进行了实验测试。这里给出案例和全部改写后的代码。 将 LLM 与函数调用相结合，就如同赋予您的 AI 连接世界的能力。通过将您的 LLM 与外部工具（例如用...
-
初识LLM大模型：入门级工程知识探索与解析
前言 源自脉脉上面刷到的大模型业务工程落地可以做的方向。其实如果不是接触相关工作，有的人可能不会想了解这方面，自己实习做的方向与之相关，因此想调研总结一下行业热点方向与基础入门知识，还有一些的专业词汇的解释。包括但不限于Prompt工程、模型微调fin...
-
如何在本地运行Llama 3系列：完整指南
今天咱们来聊聊 AI 界的重要事情——那些像 Llama3 系列这样的超大型语言模型（LLMs），现在居然可以在咱们自己的地盘上运行啦！想象一下，这就像是把一个超级智能的助手请进了家门，而且还是私密的，不用担心信息泄露的问题。 本文，虽然是基于之前 Ll...
-
使用GraphRAG+LangChain+Ollama：LLaMa 3.1跑通知识图谱与向量数据库集成（Neo4j）
我将向你展示如何使用 LLama 3.1（一个本地运行的模型）来执行GraphRAG操作，总共就50号代码。。。 首先，什么是GraphRAG？GraphRAG是一种通过考虑实体和文档之间的关系来执行检索增强生成的方式，关键概念是节点和关系。 ▲...
-
拓数派亮相2024浙江嘉兴“数据要素×”大赛，数据平台产业项目签约落地
近日，“智汇南湖 数据赋能”2024数据产业发展大会暨2024年“数据要素×”大赛浙江分赛嘉兴站颁奖仪式圆满落幕。拓数派首席运营官陆公瑜受邀出席本次大会，并代表拓数派进行数据产业项目签约仪式。 图为：大会现场 我国数字经济蓬勃发展，数据生产量和存储...
-
华为发布全新OceanStor A800 AI存储：10TB级带宽 专攻AI大模型
快科技8月14日消息，近日，在2024华为数据存储用户精英论坛上，AI-Ready的数据基础设施”分论坛成功举行。 为促进AI大模型健康发展，华为推出了全新的OceanStor A800 AI存储。 华为表示，该存储采用数控分离架构，提供10TB级带宽和亿...
-
一文彻底搞定 RAG、知识库、 Llama-3！！
▼最近直播超级多，预约保你有收获 —1— 使用 Llama-3 搞定 RAG 检索增强生成（Retrieval Augmented Generation，RAG）是一种强大的工具，它通过将企业外部知识整合到生成过程中，增强了大语言...
-
在 Kubernetes 上用 KubeBlocks + Dify 快速构建生产级 AIGC 应用
前言 在数字化时代，人工智能生成内容（AIGC）技术正以前所未有的速度改变着我们的世界。AIGC 不仅为内容创作者提供了强大的工具，还为企业带来了前所未有的商业机会。通过 AIGC，应用能够自动生成文本、图像、音频甚至视频，极大地提高了内容生产的效率和...
-
双非本科工程造价专业，转行AIGC产品经理，涨薪65%
大家好，我是一名证券产品转AIGC产品经理的案例，学习课程后，入职一家内容创作工具公司，薪资也有了较大提升，经过测算涨幅也是超过了65%。 新公司的主要产品是视频和图文创作工具，服务对象主要是金融客户和电商客户两类群体，主要使用场景是用来创作短视频和图文...
-
基于Llama Index构建RAG应用(Datawhale AI 夏令营)
前言 Hello，大家好，我是GISer Liu?，一名热爱AI技术的GIS开发者，本文参与活动是2024 DataWhale AI夏令营；? 在本文中作者将通过： Gradio、Streamlit和LlamaIndex介绍 Ll...
-
探索大模型：袋鼠云在 Text To SQL 上的实践与优化
Text To SQL 指的是将自然语言转化为能够在关系型数据库中执行的结构化查询语言（简称 SQL）。近年来，伴随人工智能大模型技术的不断进步，Text To SQL 任务的成功率显著提升，这得益于大模型的推理、理解以及指令遵循等能力。 对于大数据平台...
-
AI版沪上“繁花”上演，腾讯构建离产业最近的人工智能
作为新一轮科技革命和产业变革的重要驱动力量，人工智能被认为是发展新质生产力的主要阵地。7月4日，以“以共商促共享，以善治促善智”为主题的2024世界人工智能大会在上海开幕。 连续七届参加大会的腾讯，今年聚焦“用AI助力美好生活，构建离产业最近的AI”这一...
-
【AI 大模型】大模型应用架构 ( 业务架构 - AI Embedded、AI Copilot、AI Agent | 技术架构 - 提示词、代理 + 函数调用、RAG、Fine-tuning )
文章目录 一、大模型技术方向 - 大模型训练 / 大模型应用 二、大模型应用 - 业务架构 1、AI Embedded 模式 2、AI Copilot 模式 3、AI Agent 模式 三、大模型应用 - 技术架构 1、提示词 技术架构...
-
CIO应重点关注的领域，以维持GenAI的势头
GenAI仍然是大多数企业的首要投资重点，而且期望值很高。根据普华永道的最新调查，美国61%的CEO预期AI将改变他们的业务价值生成方式，但要实现这一目标，企业必须将AI的炒作转化为现实。 好消息是，他们在这方面越来越擅长。事实上，根据Databric...
-
Llama 3 构建语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成
Llama 3 构建语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成 文章目录 Llama 3 构建语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成 不同行...
-
权威答案！灵犀医疗引入 Zilliz Cloud，千万级向量数据库赋能医学 AIGC 平台
“医疗行业是一个信息差较大的行业，术语体系庞杂且知识门类较多，如何能搜索到最精准的医学知识并采用最合理方式进行总结，这是我们医学 AIGC 平台 EviMed 所遇见的最主要的技术问题。 传统的数据库和全文检索方式难以满足我们的技术要求，结合了 Zil...
-
RAG 与长文本，此消彼长还是相辅相成？
上周，PingCAP AI Lab 数据科学家孙逸神的文章《当前都在堆长窗口，还需要 RAG 吗？》从用户的角度谈了长窗口&RAG 的看法，引起了众多同行的围观，本周我们采访了张粲宇，看看搞向量数据库的业内人士，是怎么看待这个问题的？...
-
基于 langchain 和大语言模型 (LLM) 的自然语言数据库查询系统 (RAG)——data copilot
data-copilot ✨ 基于 langchain 和大语言模型 (LLM 的自然语言数据库查询系统 (RAG 通过自然语言提问，使用大语言模型智能解析数据库结构，对数据进行智能多表结构化查询和统计计算，根据查询结果智能绘制多种图表。 Pyw...
-
RAG 架构如何克服 LLM 的局限性
检索增强生成促进了 LLM 和实时 AI 环境的彻底改造，以产生更好、更准确的搜索结果。 译自How RAG Architecture Overcomes LLM Limitations，作者 Naren Narendran。 在本系列的第一部分中，我重...
-
AnythingLLM：零成本的私人ChatGPT，支持几乎所有主流大模型
用过大模型的都知道，我们不怕它不回答，就怕它乱回答，特别是一眼还看不出来的那种。即便是最先进的AI模型也会说谎，防不胜防。对企业来说，幻觉，已经成为阻碍大模型应用的严重缺陷性问题。 除了幻觉，通用大模型无法满足企业实际业务需求还涉及到知识局限性、信息安全...
-
大模型风起云涌，向量数据库终有“用武之地”？
每逢淘金热，最后的赢家都是卖铲人，而非淘金者。在近两年的大模型风口下，向量数据库就成了这把铲子。 随着大模型快速发展，向量数据库正在成为企业便捷使用大模型、最大化发挥数据价值的关键工具。据IDC调查数据显示，全球在AI技术和服务上的支出2023年将达到...
-
客户案例｜权威答案！灵犀医疗引入 Zilliz Cloud，千万级向量数据库赋能医学 AIGC 平台...
“医疗行业是一个信息差较大的行业，术语体系庞杂且知识门类较多，如何能搜索到最精准的医学知识并采用最合理方式进行总结，这是我们医学 AIGC 平台 EviMed 所遇见的最主要的技术问题。 传统的数据库和全文检索方式难以满足我们的技术要求，结...
-
从大模型（LLM）、检索增强生成（RAG）到智能体（Agent）的应用
引言 随着人工智能技术的飞速发展，大型语言模型（LLM）、检索增强生成（RAG）和智能体（Agent）已经成为推动该领域进步的关键技术，这些技术不仅改变了我们与机器的交互方式，而且为各种应用和服务的开发提供了前所未有的可能性。正确理解这三者的概念及其之间...
-
使用LM Studio与Anything LLM基于Llama-3高效构建本地知识库系统
本文详细介绍了如何使用LM Studio和Anything LLM工具来构建和部署本地知识库。文中首先解释了安装和配置大模型的步骤，随后展示了如何将模型部署为后台服务，并通过API进行调用。此外，文章还涉及了如何使用这些工具快速构建知识库应用，包括知识库的...
-
AI大模型探索之路-训练篇25：ChatGLM3微调实战-基于LLaMA-Factory微调改造企业级知识库
系列篇章? AI大模型探索之路-训练篇1：大语言模型微调基础认知AI大模型探索之路-训练篇2：大语言模型预训练基础认知AI大模型探索之路-训练篇3：大语言模型全景解读AI大模型探索之路-训练篇4：大语言模型训练数据集概览AI大模型探索之路-训练篇5：大...
-
腾讯混元升级模型矩阵，云上推出256k长文模型
大模型落地加速，“产业实用”成为发展共识。 2024年5月17日，腾讯云生成式AI产业应用峰会在北京召开，公布大模型研发、应用产品的系列进展。 腾讯混元大模型能力持续升级，多个版本模型hunyuan-pro、hunyuan-standard、hunyua...
-
理解GraphRAG（一）：RAG的挑战
检索增强生成（RAG）是一种通过外部知识源增强现有大型语言模型（LLM）的方法，以提供和上下文更相关的答案。在RAG中，检索组件获取额外的信息，使响应基于特定来源，然后将这些信息输入到LLM提示中，以使LLM的响应基于这些信息（增强阶段）。与其他技术（例...
-
指标+AI：迈向智能化，让指标应用更高效
近日，以“Data+AI，构建新质生产力”为主题的袋鼠云春季发布会圆满落幕，大会带来了一系列“+AI”的数字化产品与最新行业沉淀，旨在将数据与AI紧密结合，打破传统的生产力边界，赋能企业实现更高质量、更高效率的数字化发展。会上，袋鼠云业务总经理申杭带来了以...
-
RAG 2.0架构详解：构建端到端检索增强生成系统
关于检索增强生成（RAG）的文章已经有很多了，如果我们能创建出可训练的检索器，或者说整个RAG可以像微调大型语言模型（LLM）那样定制化的话，那肯定能够获得更好的结果。但是当前RAG的问题在于各个子模块之间并没有完全协调，就像一个缝合怪一样，虽然能够工作...
-
提高 RAG 应用准确度，时下流行的 Reranker 了解一下？
检索增强生成（RAG）是一种新兴的 AI 技术栈，通过为大型语言模型（LLM）提供额外的“最新知识”来增强其能力。 基本的 RAG 应用包括四个关键技术组成部分： Embedding 模型：用于将外部文档和用户查询转换成 Embedding 向量...
-
伊克罗德信息与墨奇科技战略合作，共塑生成式AI未来
在数字化浪潮席卷全球的今天，人工智能技术以其强大的潜力和广泛的应用前景，正引领着新一轮的科技革命。 近日，伊克罗德信息与墨奇科技正式宣布双方达成战略合作，双方将围绕生成式AI技术展开，发挥各自的技术优势和资源优势，利用大语言模型LLM、向量数据库构建生成...
-
AIGC｜Agentbot的构建实践
最近这几个月，智能体这一概念逐渐进入人们的视野并受到广泛讨论，各智能体和类智能体项目层出不穷。智能体不断被冠以“大模型下半场”，“软件2.0”等等称号，被认为是迈向通用人工智能的一大步，BabyGPT, AutoGPT等实验性产品相继出新。不满足于现在的聊...
-
Yuan2.0大模型，联合向量数据库和Llama-index，助力检索增强生成技术
1. 背景 在大模型爆发的时代，快速准确地从大量数据中检索出有价值的信息变得至关重要。检索增强生成（RAG）技术，结合了传统的信息检索和最新的大语言模型（LLM），不仅能够回答复杂的查询，还能在此基础上生成信息丰富的内容。 RAG技术的核心在于其能够将...
-
伊克罗德信息与墨奇科技战略合作，共创生成式AI新未来
3月28日伊克罗德信息在北京举办“AI引领未来 探索大模型世界”活动，与墨奇科技、亚马逊云科技共同探讨生成式AI与向量数据库大力量，并与大家共同探讨人工智能大模型在各个行业的创新应用，为企业实现更高效、创新的数智化转型！ 活动现场，伊克罗德信息与墨奇科技...
-
RAG 修炼手册｜RAG 敲响丧钟？大模型长上下文是否意味着向量检索不再重要
Gemini 发布后，由于其在处理长上下文方面表现出色，行业不乏“RAG 已死”的声音。RAG 到底有没有被杀死？向量数据库的还是 AI 应用开发者的最佳拍档吗？本文将一起探讨。 01.Gemini 发布后 AIGC 的迭代速度正以指数级的速度增长。G...
-
大数据 AI 一体化解读
一、AI 的“iPhone”时刻 在过去的一年中，大模型的发展非常迅速，算力和数据的堆叠使模型具备了一些通用的构造和回答问题的能力，引领人们进入了一直梦想的人工智能阶段。举个例子，在与大语言模型聊天时，会感觉面对的不是一个生硬的机器人，而是一个有血有肉的...
-
为什么说GPU再火，AI平台也少不了强力的CPU
AIGC的这把火，燃起来的可不只是百模大战的热度和雨后春笋般的各式AI应用。 更是由于算力与通信需求的爆发式增长，使得底层的专用加速芯片、以及配备这些芯片的AI加速服务器再次被拉到了大众的聚光灯下。 据统计，2023年全球范围内的AI服务器市场规模已经达到...
-
百度5款大模型上新，更小更便宜！还可1分钟零代码打造Agent应用
零代码1分钟，构建一个Agent应用。 做一个“英语作文批改小帮手”应用，只需在AppBuilder中输入应用名称或者希望开发的功能，平台就能自动生成应用。 再通过简单的调整角色指令、添加所需工作组件，即可生成应用。 发布后马上可使用，从创建到分发，...
-
百度智能云千帆大模型平台再升级：5款大模型、55个工具组件上新！
服务8万企业用户，累计帮助用户精调1.3万个大模型，帮助用户开发出16万个大模型应用，自2023年12月以来百度智能云千帆大模型平台API日调用量环比增长97%...从一年前国内大模型平台的“开路先锋”到如今的大模型“超级工厂”，百度智能云千帆大模型平台...
-
百度智能云千帆AppBuilder AI原生应用开发平台升级
今日，百度智能云召开了千帆产品发布会，宣布千帆平台迎来多项重磅升级。在此次发布会上，百度副总裁谢广军分享了千帆大模型平台一周年来的辉煌成绩，累计服务超过8万家企业用户，助力企业用户精调1.3万个大模型，并开发出超过16万个应用。 值得关注的是，千帆AppB...
-
百万token上下文窗口也杀不死向量数据库？CPU笑了
“Claude 3、Gemini 1.5，是要把RAG（检索增强生成）给搞死了吗？” 随着新晋大语言模型们的上下文窗口（Context Window）变得越发得长，业界人士针对“RAG终将消亡”观点的讨论也是愈演愈烈。 之所以如此，是因为它们二者都是为...
-
今日AI：马斯克开源最大模型Grok-1；不等OpenAI！国产类Sora抢先开源；iPhone很快可直接使用Gemini模型；Kimi Chat超长上下文免费用
欢迎来到【今日AI】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ ???AI新鲜事 马斯克开源Gr...
-
AIPC的“名利场”，生产力革命还是市值猛药？
苹果这回终于不“挤牙膏”了，急不可耐地扎入了AIPC的“名利场”。 就在2月28日，苹果CEO库克还在股东大会上宣称:“目前市面上用于人工智能的电脑，没有比Mac更好的”。仅一周过去，苹果在没有预告的前提下，突然发布了新款Macbook Air，并大肆宣扬...
-
基于大型语言模型和向量数据库开发新闻推荐系统
译者 | 朱先忠 审校 | 重楼 近年来，随着诸如ChatGPT、Bard等生成式人工智能工具的发布，大型语言模型（LLM）在机器学习社区引起了全球热议。这些解决方案背后的核心思想之一是计算非结构化数据（如文本和图像）的数字表示，并找出这些表示之间的相似...
-
LangChain原理学习笔记
最新越发觉得AI的发展，对未来是一场革命，LangChain已经在工程设计上有了最佳实践，类似于AI时代的编程模型或编程框架，有点Spring框架的意思。之前在LangChain上也有些最佳实践，所以在这里分享记录下。 L...
-
掌握商业人工智能：使用 RAG 和 CRAG 构建企业级人工智能平台
通过我们的指南了解如何为您的企业释放人工智能的力量。了解 RAG 和 CRAG 集成、矢量嵌入、LLM 和提示工程。非常适合负责任地拥抱人工智能的企业。 为企业打造AI-Ready平台 企业在引入生成式人工智能时，会遇到许多需要战略管理的业务风险。这...