-
基于Llama Index构建RAG应用(Datawhale AI 夏令营)
前言 Hello，大家好，我是GISer Liu😁，一名热爱AI技术的GIS开发者，本文参与活动是2024 DataWhale AI夏令营；😲 在本文中作者将通过： Gradio、Streamlit和LlamaIndex介绍 Ll...
-
长上下文能力只是吹牛？最强GPT-4o正确率仅55.8%，开源模型不如瞎蒙
【新智元导读】当今的LLM已经号称能够支持百万级别的上下文长度，这对于模型的能力来说，意义重大。但近日的两项独立研究表明，它们可能只是在吹牛，LLM实际上并不能理解这么长的内容。 大数字一向吸引眼球。 千亿参数、万卡集群，——还有各大厂商一直在卷的超长上下...
-
2024-06-21 问AI: 在大语言模型中，什么是LLama Index
文心一言 LLama Index是一个针对基于LLM（大型语言模型）的应用程序的数据框架，旨在提供RAG（检索增强生成，Retrieval-Augmented Generation）能力。以下是关于LLama Index的清晰概述： 定义与功能：...
-
首个超越GPT4o级开源模型！Llama 3.1泄密：4050亿参数，下载链接、模型卡都有了
Llama3.1终于现身了，不过出处却不是 Meta 官方。 今日，Reddit 上新版 Llama 大模型泄露的消息遭到了疯传，除了基础模型，还包括8B、70B 和最大参数的405B 的基准测试结果。 下图为 Llama3.1各版本与 OpenAI G...
-
苹果开源7B大模型，训练过程数据集一口气全给了，网友：开放得不像苹果
苹果最新杀入开源大模型战场，而且比其他公司更开放。 推出7B模型，不仅效果与Llama38B相当，而且一次性开源了全部训练过程和资源。 要知道，不久前Nature杂志编辑Elizabeth Gibney还撰文批评: 而苹果这次竟然来真的!! 就连NLP...
-
Llama也能做图像生成？文生图模型已开源
导读 基于next-token prediction的图像生成方法首次在ImageNet benchmark超越了LDM, DiT等扩散模型，证明了最原始的自回归模型架构同样可以实现极具竞争力的图像生成性能。 Llama也能做图像生成？文生图模型已开源...
-
Windows下安装LLama-Factory
在进行安装前，请先确认你的GPU能支撑起训练的显存。如果和可怜的我一样是4GB可以选择上云或者换一个好一点的显卡。并且确定你安装了显卡驱动版本在官方给的版本以上，如果没有安装，详细参考我的另一篇文章：LLama-Factory运行异常，CU...
-
视频大语言模型调研论文《Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding》解读
本文是关于论文《Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding》的简要介绍。Video-LLaMA是阿里达摩院的一个多模态大语言模型...
-
AIGC领域综述
AIGC领域综述 2023 1. A Survey of Large Language Models 2. A Complete Survey on Generative AI (AIGC : Is ChatGPT from GPT-4 to...
-
AI日报：微软推设计神器Microsoft Designer；苹果开源小模型 DCLM-Baseline-7B；小爱宣布新增AI文档问答等功能
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、微软推设计神器Microsof...
-
首轮嘉宾阵容公布，GOTC 2024 即将开启！
8 月 15 日至 16 日，GOTC 2024 将在上海张江科学会堂盛大开启。 GOTC 2024 与上海浦东软件园联合举办，并结合 “GOTC（全球开源技术峰会）” 与 “GOGC（全球开源极客嘉年华）”，是一场面向全球开发者的全新的开源技术盛会。期...
-
OpenAI掀小模型血战！苹果DCLM强势登场，碾压Mistral 7B全开源
【新智元导读】小模型时代来了?OpenAI带着GPT-4o mini首次入局小模型战场，Mistral AI、HuggingFace本周接连发布了小模型。如今，苹果也发布了70亿参数小模型DCLM，性能碾压Mistral-7B。 小模型的战场，打起来了!...
-
llama.cpp
文章目录 一、关于 llama.cpp 支持的模型： Multimodal models: Bindings: UI: Tools: 二、Demo 1、Typical run using LLaMA v2 13B on M2 Ultra...
-
自动炼丹基于Llama-factory改写--学习记录
最近在使用llama-factory微调LLM，但是一个个手动修改基本的学习率，学习轮次有太麻烦了。在寻找有没有什么自动调参的办法，在github上看到Llama-factory支持Weights & Biases 记录实验数据自动微调，尝试了一下...
-
[机器学习]-如何在 MacBook 上安装 LLama.cpp + LLM Model 运行环境
如何在 MacBook 上安装 LLama.cpp + LLM Model 运行环境 1. 问题与需求 近段时间想学习一下大语言模型的本地化部署与应用。首先遇到的就是部署硬件环境的问题。我自己的笔记本是一台 MacBook Pro M3，没有 Nv...
-
比肩Midjourney-v6！没有GPU也能跑可图Kolors
比肩Midjourney-v6，快手的文生图开源模型可图Kolors一发布，开源社区就炸开了锅。短短几天，可图在Github上收获2k Star，Huggingface模型下载热榜第一。 7月6日，快手宣布开源数十亿参数的文生图模型可图Ko...
-
llama-factory微调工具使用入门
一、定义 环境配置 案例： https://zhuanlan.zhihu.com/p/695287607 chatglm3 案例 多卡训练deepspeed llama factory 案例Qwen1.5 报错 二、实现 环境配置 git cl...
-
专访诺奖得主：大模型是记忆还是理解？
物理学家理查德·费曼曾将自然世界比作众神的游戏，比如国际象棋——我们不知道游戏规则，但却可以观察棋盘，也许只是其中的一角，然后根据这些观察，试图找出游戏规则。 费曼的比喻，道出了科学研究的核心，也生动描绘了许多经济学家的工作，他们同样致力于从纷繁复杂的经济...
-
LLaMA-Factory/scripts/length_cdf.py 源码解析
这段代码定义了一个函数 length_cdf，用来计算和打印数据集样本长度的累积分布函数（CDF），并在脚本直接运行时通过 fire 库将该函数暴露为命令行接口。我们逐行解释这段代码： python 复制 from llmtuner.data imp...
-
Llama模型家族之拒绝抽样(Rejection Sampling)（九） 强化学习之Rejection Sampling
LlaMA 3 系列博客 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一） 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二） 基于 LlaMA 3 + LangGraph 在w...
-
给 ｢大模型初学者｣ 的 LLaMA 3 核心技术剖析
编者按： 本文旨在带领读者深入了解 LLaMA 3 的核心技术 —— 使用 RMSNorm 进行预归一化、SwiGLU 激活函数、旋转编码（RoPE）和字节对编码（BPE）算法。RMSNorm 技术让模型能够识别文本中的重点，SwiGLU 激活函数则如同“...
-
【AIGC调研系列】VILA-1.5版本的视频理解功能如何
VILA-1.5版本的视频理解功能表现出色，具有显著的突破。这一版本不仅增强了视频理解能力，还提供了四种不同规模的模型供用户选择，以适应不同的应用需求和计算资源限制[1][2][3]。此外，VILA-1.5支持在笔记本等边缘设备上部署，这得益于其高效的模型...
-
甲骨文首次将LLMs引入数据库，集成Llama 3和Mistral，和数据库高效对话
信息时代，数据为王。数据库作为数据存储&管理的一种方式，正在以势不可挡的趋势与AI结合。 前有OpenAI 收购了数据库初创公司 Rockset，引发广泛关注；Oracle公司（甲骨文）作为全球最大的信息管理软件及服务供应商，近日发布新产品Hea...
-
大模型应用开发之业务架构和技术架构（从AI Embedded 到 Copilot,再到Agent）_embedding、copilot、agents
前言 截止到目前，我们已经从大模型的定义概念，应用层涉及的一些概念做了些了解。在大模型的应用开发中，RAG、Agent等概念我们之前也做了些简述，没有看过的可以粗略回顾一下：[大模型06-大模型应用开发之准备篇。 本文我们重点讲的就是伴随着大模型的广...
-
LLaMA-Factory：开源的低代码大模型训练框架
LLaMA-Factory 是一个由零隙智能（SeamLessAI）开源的低代码大模型训练框架，它集成了业界最广泛使用的微调方法和优化技术，并支持众多开源模型的微调和二次训练。 一、功能特点 支持多种开源模型：LLaMA-Factory支持包括...
-
本地私有化部署开源大模型完整教程：LangChain + Streamlit+ Llama 【LLM大模型】
在过去的几个月里，大型语言模型(llm 获得了极大的关注，这些模型创造了令人兴奋的前景，特别是对于从事聊天机器人、个人助理和内容创作的开发人员。 大型语言模型(llm 是指能够生成与人类语言非常相似的文本并以自然方式理解提示的机器学习模型。这些模型使...
-
Llama - 微调
本文翻译整理自：https://llama.meta.com/docs/how-to-guides/fine-tuning 文章目录 微调 实验跟踪 Recipes PEFT LoRA torchtune Hugging Face PE...
-
每日AIGC最新进展(46)：上海AI Lab发布多模态大模型InternLM-XComposer-2.5、阿里发布视频生成大模型EasyAnimate-V3、快手发布人像模型LivePortrait
Diffusion Models专栏文章汇总：入门与实战 InternLM-XComposer-2.5: A Versatile Large Vision Language Model Supporting Long-Contextual Input...
-
Streaming local LLM with FastAPI, Llama.cpp and Langchain
题意： 使用FastAPI、Llama.cpp和Langchain流式传输本地大型语言模型 问题背景： I have setup FastAPI with Llama.cpp and Langchain. Now I want to enable...
-
本周23个Github有趣项目llama-agents等
23个Github有趣的项目、工具和库 1、Positron 下一代数据科学 IDE。 您使用 VS Code 进行数据科学（Python 或 R），但希望它包含专用控制台、变量窗格、数据浏览器和其他用于特定数据工作的功能。 您使用 Jupyterl...
-
Stable Diffusion秋叶AnimateDiff与TemporalKit插件冲突解决
文章目录 Stable Diffusion秋叶AnimateDiff与TemporalKit插件冲突解决 描述 错误描述：找不到模块imageio.v3 解决： 参考地址 其他文章推荐： 专栏 ： 人工智能基础知识点 专栏：大语言模型LL...
-
微软 Phi-3.1 Mini (3.8B)：刚刚进行了疯狂升级（击败 Llama-3 和 Qwen2）
微软 Phi-3.1 Mini (3.8B ：刚刚进行了疯狂升级（击败 Llama-3 和 Qwen2） 原创 Aitrainee AI进修生 2024年07月06日 15:16 湖南 Aitrainee | 公众号：AI进修生 🌟这...
-
使用llama.cpp量化模型
文章目录 概要 整体实验流程 技术细节 小结 概要 大模型量化是指在保持模型性能尽可能不变的情况下，通过减少模型参数的位数来降低模型的计算和存储成本。本次实验环境为魔搭社区提供的免费GPU环境（24G），使用Llama.cpp进行...
-
AI日报：阿里云发布音频模型Qwen2-Audio；字节将推类sora模型；AI眼里13.11＞13.8
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、Qwen2-Audio：千问系...
-
绕晕了！9.11 大还是 9.9 大，难倒一批 AI 大模型？
「9.11和9.9，哪个大?」 对于不少习惯了更新软件版本号的程序员而言，不少人的第一反应就是:当然是9.11大。但是如果没有限定场景，只是单纯地提出上面这个问题时，结果必然是相反的。 没想到，将这个问题抛给前能答疑解惑、后能挑战各种高数难题的 AI 大模...
-
前百度高管入局AI搜索，挑战Google和Perplexity，种子轮获6000万美元资金
在这个信息泛滥但缺乏有意义内容的时代，传统搜索引擎的表现常常不尽人意，用户被广告、垃圾邮件和偏见内容所困扰。 Genspark的目标是打破这些旧有障碍，不仅要改进搜索技术，还要彻底改变用户访问和与信息互动的方式。 Sense 思考 我们尝试基于文章内容，提...
-
“全网最全”LLM推理框架集结营 - 看似微不足道，却决定着AIGC项目的成本、效率与性能!
00-前序 随着ChatGPT、GPT-4等大语言模型的出现，彻底点燃了国内外的学者们与企业家们研发LLM的热情。国内外的大语言模型如雨后春笋一般的出现，这些大语言模型有一部分是开源的，有一部分是闭源的。 伴随着大语言模型的出现，国内外基于大语言模型...
-
AI日报：Claude 3.5 Sonnet数据可视化超越GPT-4o；谷歌推AI视频剪辑Vids；首届AI小姐选美结果出炉
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、争气！Claude 3.5 S...
-
Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（七） 使用 LoRA 微调 LLM 的实用技巧
LlaMA 3 系列博客 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一） 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二） 基于 LlaMA 3 + LangGraph 在w...
-
【大模型能力分水岭数学考试，文心一言超gpt4o排名第一】
文末有福利！ 2024年全国高考成绩陆续放榜，各位考生的成绩怎么样？在本次考试中还有几位特殊的考生——国内外知名的9个AI大模型也“参与”了本次高考，它们的成绩可谓也是“几家欢喜，几家愁”。 以河北省录取分数线（文科一本线：521分，理科一本线：...
-
开发者评测｜操作系统智能助手OS Copilot
操作系统智能助手OS Copilot 文章目录 操作系统智能助手OS Copilot OS Copilot 是什么 优势 功能 操作步骤 创建实验 重置密码 创建Access Key 配置安全组 安装 os-copilot 环境...
-
Qwen2——阿里巴巴最新的多语言模型挑战 Llama 3 等 SOTA
引言 经过几个月的期待， 阿里巴巴 Qwen 团队终于发布了 Qwen2 – 他们强大的语言模型系列的下一代发展。 Qwen2 代表了一次重大飞跃，拥有尖端的进步，有可能将其定位为 Meta 著名的最佳替代品 骆驼3 模型。在本次技术深入探讨中，我...
-
LLama Factory微调模型全流程，与peft库调用训练的adapter
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 LLama Factory微调流程 一、准备微调的数据集和模型 二、读取模型和数据进行训练 1.使用web ui 2.修改官方脚本（推荐） 第三，加载与推...
-
【AIGC调研系列】InternVL开源多模态模型与GPT-4V的性能对比
InternVL和GPT-4V都是多模态模型，但它们在性能、参数量以及应用领域上有所不同。 InternVL是一个开源的多模态模型，其参数量为60亿，覆盖了图像/视频分类、检索等关键任务，并在32个视觉-语言基准测试中展现了卓越性能[2]。InternV...
-
自定义 LLM：LangChain与文心一言擦出火花
自定义 LLM 自定义 LLM 需要实现以下必要的函数： _call ：它需要接受一个字符串、可选的停用词，并返回一个字符串。 它还可以实现第二个可选的函数： _identifying_params ：用于帮助打印 LLM 信息。该函数应该返回...
-
引入 AI 技术后，数据库变成了什么样？
作为数据库技术发展趋势之一，AI 与数据库融合迸发无限潜力，推动着数据管理与分析进入一个全新的时代。当前，一些数据库厂商已经开始融合 AI 技术来增强其数据管理和处理能力，用于自动化的数据库调优、预测性维护、智能查询优化、模式识别以及更高级别的数据分析等方...
-
Fastgpt接入Whisper本地模型实现语音输入
前言 FastGPT 默认使用了 OpenAI 的 LLM 模型和语音识别模型，如果想要私有化部署的话，可以使用openai 开源模型Whisper。参考文章 《openai 开源模型Whisper语音转文本模型下载使用》 开源项目地址 ： 兼容op...
-
大模型剧本杀开源：6个Claude里藏一个凶手！刚上线服务器就被挤爆，免费免下载免注册
AI原生互动侦探游戏，刚上线就爆火，服务器一度挤爆。 免费、免下载、免注册、中文友好、浏览器运行… … 这么多buff叠在一起，是不是勾起了你的好奇心? 今天的主角AI Alibis，由两位外国游戏爱好者共同开发，并且作为参赛作品提交给了Anthropi...
-
OpenAI秘密武器「草莓」计划曝光！Q*推理能力大爆发，逼近AGI L2里程碑
【新智元导读】OpenAI被曝出了新项目「草莓」，据悉能提前计划，自主浏览网页，还能进行深度研究。草莓由大量通用数据上后训练而成，推理能力显著提高。根据OpenAI最近的AGI路线图，草莓疑似已达Level2。 昨天刚刚被曝出AGI五级路线图，今天Open...
-
近屿OJAC带你解读：AIGC核心知识点LLM
近年来，人工智能（AI）领域经历了令人瞩目的增长，尤其是自然语言处理（NLP）。你知道是什么推动了NLP领域的这种飞速发展吗？没错，那就是大型语言模型LLM。这些模型可能会彻底改变我们与科技的互动方式！ 这些模型是如何工作的呢？它们为何如此流行？在本文中...