-
#RAG | AIGC # RAG召回率提升的方法以及优劣势
RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的模型，用于增强大型语言模型（LLMs）的性能。召回率（Recall）是衡量RAG系统性能的关键指标之一，它表示系统能...
-
Llama（二）：Open WebUI作为前端界面，使用本机的llama3
目录 背景 Open WebUI是什么 工程能力特性 产品功能特性 用户体验特性 Open WebUI安装并使用 背景 Mac M1芯片，16G 内存 llama3 8B的部署参考Llama（一）：Mac M1芯片运行Llama3-...
-
李开复、张亚勤对谈：大模型产业化，To B、To C哪个赛道更有机会？
6月15日消息，在第六届“北京智源大会”上，零一万物CEO、创新工场董事长李开复博士，中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤院士、智源研究院理事长黄铁军教授，三位行业领袖就大模型的成功因素、面临的挑战、产业化场景等多个热点话题展开了深入...
-
微信里拥抱AI最成功的，居然是他们的微信输入法。
我从几个月前其实就就把我的输入法从搜狗换成微信输入法了。 主要是因为它有两个很牛逼对我很刚需的功能。 一个是跨设备复制粘贴。 我在手机上复制一下，直接在Windows上就能粘贴。在Windows上复制一下，手机上也能秒粘贴，支持安卓、IOS、Windows...
-
Py之llama-parse：llama-parse(高效解析和表示文件)的简介、安装和使用方法、案例应用之详细攻略
Py之llama-parse：llama-parse(高效解析和表示文件 的简介、安装和使用方法、案例应用之详细攻略 目录 llama-parse的简介 llama-parse的安装和使用方法 1、安装 2、使用方法 第一步，获取API...
-
RAG 与长文本，此消彼长还是相辅相成？
上周，PingCAP AI Lab 数据科学家孙逸神的文章《当前都在堆长窗口，还需要 RAG 吗？》从用户的角度谈了长窗口&RAG 的看法，引起了众多同行的围观，本周我们采访了张粲宇，看看搞向量数据库的业内人士，是怎么看待这个问题的？...
-
FP6精度单卡运行Llama 70B模型，性能飞跃引领大模型时代
在深度学习领域，模型的运行效率和精度一直是研究者们追求的目标。最近，微软DeepSpeed团队在这一领域取得了突破性进展，他们在没有英伟达官方支持的情况下，成功在NVIDIA A100 GPU上实现了FP6精度的运行，这一成就不仅提升了计算速度，还保持了计...
-
【文末附gpt升级方案】探讨当前时机是否适合进入AIGC行业：机遇与挑战并存（二）
上一篇文章我们提到了AIGC的发展阶段和一些市场需求，今天我们继续来分析基于和挑战以及如何做出明智的决策【文末附gpt升级方案】探讨当前时机是否适合进入AIGC行业（一）-CSDN博客 在上一部分，我们分析了AIGC行业的发展阶段和市场需求，并得出当...
-
5个Midjourney技巧，让你的图片更自然真实，没有“AI味”
您是否觉得有些AI生成的图像看起来过于完美？有股AI味？MidJourney 可以创建非常高质量的逼真图像，然而画面完美无瑕、栩栩如生，让人感觉完美得令人不安，几乎不真实。 比如这个，有点夸张： 大多数人一眼就能看出，这种完美是 "人工智能生成 "的。...
-
RAFT：引领 Llama 在 RAG 中发展
每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同...
-
使用LLM2Vec将Llama 3转变为一个嵌入模型
文章目录 LLM2Vec：您的LLM也是一个嵌入模型 使用LLM2Vec将Llama 3转变为文本嵌入模型 为 RAG 设置 Llama 3 文本嵌入模型 结论 原文：Benjamin Marie Turn Llama 3 into a...
-
LLM之RAG之LlaMAIndex：llama-index(一块轻快构建索引来查询本地文档的数据框架神器)的简介、安装、使用方法之详细攻略
LLM之RAG之LlaMAIndex：llama-index(一块轻快构建索引来查询本地文档的数据框架神器 的简介、安装、使用方法之详细攻略 目录 LlamaIndex的简介 1、LlamaIndex有什么帮助? 2、核心原理 llama-i...
-
Galileo发布Luna，重新定义GenAI评估，成本降低97%、速度提升11倍
企业人工智能技术领先者 Galileo 近日发布了一款名为 Luna 的全新产品，这一革命性的 Evaluation Foundation Models 套件重新定义了企业对 GenAI 系统的评估方式。Luna 承诺在速度、成本和准确性方面进行了前所未有...
-
Stable Diffusion安装和快速入门
文章目录 前言 环境要求 下载地址 安装Stable Diffusion 报错解决 下载模型 安装模型 运行 小结 前言 之前一直是用liblib.art这个网站在线生图，但是总归不如在自己电脑上跑好用，于是在我没独显的轻薄本上装...
-
一文讲清楚，AI、AGI、AIGC与AIGC、NLP、LLM，ChatGPT等概念
前言 随着chatgpt3.5的横空出试，大模型爆火，这个风暴传递到了各行各业。 各类公众号、帖子，也涌现出了各种概念，AI、大模型、LLM、AI、AIGC、AGI、GPT、ChatGPT等等。 总觉得被这些概念搞得头晕。 我花了点时间，梳理了下...
-
AIGC-常见图像质量评估MSE、PSNR、SSIM、LPIPS、FID、CSFD，余弦相似度----理论＋代码
持续更新和补充中…多多交流！ 参考:图像评价指标PNSR和SSIM函数 structural_similarity图片相似度计算方法总结 MSE和PSNR MSE:...
-
从提示工程到代理工程：构建高效AI代理的策略框架概述
自ChatGPT推出以来，仅仅一年多的时间里，公众对于“人工智能”（AI）的认识已经发生了根本性的变化。这种变化部分源于公众意识的提高，更多则是基于这样一个认识：AI驱动的系统不仅可能，而且可能已经具备了与人类相当的能力和表现。ChatGPT不仅是AI能...
-
无需搭建环境，零门槛带你体验Open-Sora文生视频应用
案例体验 ?* 本案例需使用 Pytorch-2.0.1 GPU-V100 及以上规格运行 ?* 点击Run in ModelArts，将会进入到ModelArts CodeLab中，这时需要你登录华为云账号，如果没有账号，则需要...
-
使用Rag和Sem-Rag提供上下文增强AI编码助手
通过将检索增强生成和语义记忆纳入 AI 编码助手，提升开发人员的生产力、效率和准确性。 译自Enhancing AI Coding Assistants with Context Using RAG and SEM-RAG，作者 Janakiram MS...
-
使用llama-index连接neo4j知识图谱 达成大模型构建查询知识图谱功能
使用llama-index连接neo4j知识图谱 达成本地大模型构建查询知识图谱功能 概述 目标 主要步骤 1. 安装依赖项 2. 配置环境 配置ollama 3. 使用Neo4j构建知识图谱 准备Neo4j 实例化Neo4jGraph...
-
别再说国产大模型技术突破要靠 Llama 3 开源了
近日，千呼万唤之下，Meta终于发布了开源大模型Llama 3的 8B 和 70B 版本，再次震动 AI 圈。 Meta 表示，Llama 3 已经在多种行业基准测试上展现了最先进的性能，提供了包括改进的推理能力在内的新功能，是目前市场上最好的开源大模型...
-
【完整指南】如何在Visual Studio Code中轻松运行Llama 3模型？
Meta 发布了最新的开源语言模型Llama 3。因为它是开源的，你可以下载这个模型，并在自己的电脑上运行。 我清楚，你可能会想，在个人笔记本上运行一个拥有80亿参数的AI模型似乎只有技术高手才能做到。但别担心！这篇文章会提供一个简单的步骤指导，帮助每个...
-
RAG 架构如何克服 LLM 的局限性
检索增强生成促进了 LLM 和实时 AI 环境的彻底改造，以产生更好、更准确的搜索结果。 译自How RAG Architecture Overcomes LLM Limitations，作者 Naren Narendran。 在本系列的第一部分中，我重...
-
部署基于内存存储的 Elasticsearch - 一亿+条数据，全文检索 100ms 响应
1. 在主机上挂载内存存储目录 创建目录用于挂载 mkdir /mnt/memory_storage 挂载 tmpfs 文件系统 mount -t tmpfs -o size=800G tmpfs /mnt/memory_storage 存储空间会按需使...
-
【AI】本地部署可以与文件沟通的GPT：Llama 2 + GPT4All + Chroma
【背景】 还是继续致力于实践可以保护数据隐私的本地化LLM部署。 这次用的是Llama 2 + GPT4All + Chroma实现RAG。 【概念】 基于LangChain模板的各个部分的作用： Llama2-》语言模型管理 GPT4AL...
-
一文读懂如何基于 Ollama 在本地运行 LLM
为什么要使用 Ollama 开源项目 ? 在当今人工智能技术飞速发展的时代，大型语言模型(LLM 无疑已成为焦点炯炯的科技明星。自从ChatGPT的推出以来，其强大的自然语言理解和生成能力便惊艳了全球，成为人工智能商业化进程中的杰出代表。 然而，这一领域...
-
LlamaFactory源码解析 PPO
class CustomPPOTrainer(PPOTrainer, Trainer : r""" Inherits PPOTrainer. """ def __init__( self,...
-
为什么你的RAG不起作用？失败的主要原因和解决方案
无数企业正在尝试使用检索增强生成（RAG），但在制作这些系统达到生产质量时普遍会感到失望。因为他们的RAG不仅运行效果差，而且对于如何改进和如何进行后续的工作也感到十分的迷茫。 其实阻碍RAG系统的一个关键因素是语义不协调，这是由于任务的预期含义、RA...
-
[AI Microsoft] Copilot+ PC 的介绍
我们5月20日活动的即时录音已经可以获取。 https://www.microsoft.com/event 今天，在我们新的微软园区举办的特别活动上，我们向世界介绍了一种新型的面向人工智能的Windows PC，Copilot+ PC。 Copilo...
-
零基础也能搞懂卷积神经网络原理！超详细！
相信和笔者一样爱技术对AI兴趣浓厚的小伙伴们，一定对卷积神经网络并不陌生， 也一定曾经对如此“高级”的名字困惑良久。笔者今天将从零开始走进卷积神经网络的世界~与大家分享！ 在深入了解卷积神经网络之前，我们先看看图像的原理。 图像原理 图像在计算机中是通...
-
AI让网友“吃石头”闹得沸沸扬扬，谷歌副总裁发博回应：不是幻觉
最近一周，网上关于谷歌AI overview（AI概览）的讨论沸沸扬扬，简直快要扛起X平台科技区的流量大旗。 这款在2023年5月就推出测试版的AI搜索，在正式上线前已处理了超十亿次查询，却依旧没能逃过翻车的命运，原因是它仍无法判断“人能不能吃石头、喝胶水...
-
工业知识图谱进阶实战
一、背景简介 首先来介绍一下云问科技的发展历程。 云问科技公司由 Chatbot 起家，在 2013 年到 2019 年间一直投身于 Chatbot 领域，主要关注人机对话方向，推出了很多客服类产品。后转型去做知识相关领域的原因是，在 Bert 发布之...
-
开源模型进展盘点：最新Mixtral、Llama 3、Phi-3、OpenELM到底有多好？
深度学习领域知名研究者、Lightning AI 的首席人工智能教育者 Sebastian Raschka 对 AI 大模型有着深刻的洞察，也会经常把一些观察的结果写成博客。在一篇 5 月中发布的博客中，他盘点分析了 4 月份发布的四个主要新模型：Mix...
-
开发arXiv论文引擎机器人程序：基于RAG＋LangChain＋Chainlit＋ChromaDB
译者 | 朱先忠 审校 | 重楼 简介 在本文中，我将演示如何使用检索增强生成(RAG 技术构建语义研究论文引擎。具体地说，我将使用LangChain(https://www.langchain.com/ 作为构建语义引擎的主要框架，以及OpenAI公...
-
超越Devin！姚班带队，他们创大模型编程新世界纪录
超越Devin!SWEBench排行榜上迎来了新玩家—— StarShip CodeGen Agent，姚班带队初创公司OpenCSG出品，以23.67%的成绩获得全球第二名的成绩。 同时创造了非GPT-4o基模的最高纪录（SOTA）。 我们都知道，SW...
-
知识图谱检索增强的GraphRAG(基于Neo4j代码实现）
图检索增强生成（Graph RAG）正逐渐流行起来，成为传统向量搜索方法的有力补充。这种方法利用图数据库的结构化特性，将数据以节点和关系的形式组织起来，从而增强检索信息的深度和上下文关联性。图在表示和存储多样化且相互关联的信息方面具有天然优势，能够轻松捕...
-
Nvidia发布GeForce RTX增强版，为AI PC数字助手提供支持
Nvidia 在Computex 展会上推出了新的 RTX 技术，为新的 GeForce RTX AI 笔记本电脑提供动力。其中，Project G-Assist 技术演示为 PC 游戏和应用提供上下文感知的帮助。这项技术首次在 Studio Wildca...
-
欢迎 Llama 3：Meta 的新一代开源大语言模型
介绍 Meta 公司的 Llama 3 是开放获取的 Llama 系列的最新版本，现已在 Hugging Face 平台发布。看到 Meta 持续致力于开放 AI 领域的发展令人振奋，我们也非常高兴地全力支持此次发布，并实现了与 Hugging Fac...
-
基于 Llama-Index、Llama 3 和 Qdrant，构建一个 RAG 问答系统！
构建一个使用Llama-Index、Llama 3和Qdrant的高级重排-RAG系统 尽管大型语言模型（LLMs）有能力生成有意义且语法正确的文本，但它们面临的一个挑战是幻觉。 在LLMs中，幻觉指的是它们倾向于自信地生成错误答案，制造出看似令人信...
-
彻底火了！《AIGC 面试宝典》圈粉无数！
2022 年下半年以来，文本生成图像快速出圈，多款应用持续火爆。 国外文生图代表：Midjourney、Stable Diffusion、OpenAI 的 DALL-E： 海外模型SD开源，进一步促进了国内大厂的研究热情和应用落地： 随着多模态技术迭...
-
六位一线AI工程师总结爆火！大模型应用摸爬滚打一年心得公开，网友：全程高能
六位一线AI工程师和创业者，把在大模型应用开发上摸爬滚打一整年的心得，全!分!享!了! （奇怪的六一儿童节大礼包出现了） 这篇干货长文，一时间成为开发者社区热议的话题。 有网友评价为，大模型领域少有的“有操作性”的实用见解，非常值得一读。 这6位作者来...
-
助力全球人工智能伦理建设马上消费AI防伪大模型成功入选联合国ITU AI for Good 全球案例集
随着Chat GPT等生成式人工智能技术快速发展，如何更加高效地使用以及监管AI应用，已成为全球科技界关注的核心议题之一。 近日，联合国旗下国际电信联盟（ITU）在瑞士日内瓦召开2024人工智能向善全球峰会AI for Good，公布全球TOP40案例...
-
LLMs之RAG：只需四步骤—基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用
LLMs之RAG：基于Ollama后端框架(配置phi3/LLaMA-3模型 结合Dify前端框架(设置知识库文件+向量化存储+应用发布 创建包括实现本地知识库问答/翻译助手等多个应用 目录 基于Ollama后端框架(配置phi3/LLaMA-...
-
大模型应用开发之业务架构和技术架构（从AI Embedded 到 Copilot,再到Agent）
前言 本文我们重点讲的就是伴随着大模型的广泛应用，这些概念是在什么体系和场景下衍生的；换句话说，基于LLM，目前大家在做的应用，他主流的业务架构和技术架构都是什么样子的，我们在了解之后，可以根据依据我们现实的业务需求，来选择自己的技术路线。 技术往...
-
被追捧的AI Agent，如何避开落地应用的这些坑？
从OpenAI推出系列GPTs，到国内众多大厂和初创企业从应用层、平台层、开发层、运营层等多个方向布局Agent，必须承认，Agent正在以异乎寻常的势头发展，也呈现出百花齐放的产品形态。 “agent”，中文意思是代理人。以此类推，所谓AI agent...
-
客户案例｜权威答案！灵犀医疗引入 Zilliz Cloud，千万级向量数据库赋能医学 AIGC 平台...
“医疗行业是一个信息差较大的行业，术语体系庞杂且知识门类较多，如何能搜索到最精准的医学知识并采用最合理方式进行总结，这是我们医学 AIGC 平台 EviMed 所遇见的最主要的技术问题。 传统的数据库和全文检索方式难以满足我们的技术要求，结...
-
通过强化学习策略进行特征选择
特征选择是构建机器学习模型过程中的决定性步骤。为模型和我们想要完成的任务选择好的特征，可以提高性能。 如果我们处理的是高维数据集，那么选择特征就显得尤为重要。它使模型能够更快更好地学习。我们的想法是找到最优数量的特征和最有意义的特征。 在本文中，我们将...
-
微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉
大型语言模型(llm 是在巨大的文本语料库上训练的，在那里他们获得了大量的事实知识。这些知识嵌入到它们的参数中，然后可以在需要时使用。这些模型的知识在培训结束时被“具体化”。在预训练结束时，模型实际上停止学习。 对模型进行对齐或进行指令调优，让模型学习...
-
超强！必会的十大机器学习算法
1.线性回归 线性回归是用于预测建模的最简单且使用最广泛的机器学习算法之一。 它是一种监督学习算法，用于根据一个或多个自变量预测因变量的值。 定义 线性回归的核心是根据观察到的数据拟合线性模型。 线性模型由以下方程表示： 其中 是因变量（我们想要预测...
-
简单几步微调Llama 3大模型，小白轻松上手
这是面向小白用户的一个超级简单的微调大模型示例，通过这个例子将得到一个速度翻倍，并可以包含自己业务知识数据的微调后llama3模型，可用于本地部署构建私有化的AI智能体。very 的 nice 首先请准备好google账号和网络环境，这个示例基于gool...