-
GAI工具哪家强？(ChatGPT 4 vs 文心一言)
开始之前， 先来看看 GAI和AI的区别和关系。 AI 和GAI AI 和GAI的概念 AI（Artificial Intelligence）是人工智能的缩写，是计算机科学的一个分支，旨在使机器像人类一样进行学习和思考。AI技术的研究领域包括机...
-
【AI学习】LLaMA 系列模型的进化（二）
在前面LLaMA 系列模型的进化（一）中学习了LLama模型的总体进化发展，再来看看其中涉及的一些重要技术。 PreLayerNorm Layer Norm有Pre-LN和Post-LN两种。Layer Normalization（LN）在Trans...
-
llama大模型提前停止策略，实现工具调用——以Llama3为例
在大模型的generate过程中为了实现工具调用功能，模型输出到了指定的token需要执行工具的时候，需要模型的generate停止。model.generate( 的参考链接：https://github.com/huggingface/transfor...
-
从炒菜到缝针！斯坦福炒虾团队打造自主「AI达芬奇」，苦练神指当外科医生
【新智元导读】斯坦福炒虾机器人作者，又出新作了!通过模仿学习，达芬奇机器人学会了自己做「手术」——提起组织、拾取针头、缝合打结。最重要的是，以上动作全部都是它自主完成的。 斯坦福炒虾机器人作者，又出新作了。 这次，机器人不是给我们炒饭了，而是给我们做外科手...
-
爆“卷”的AI视频，大厂向左，创企向右
“生成的人物一转身就变成老外，怎么解决呢?” “没有办法，10s中动作大的，人物一致性有问题，只能抽卡，多刷几个，选择一个变化不大的。” 在一个以Ruanway学院为主题的群中，不断有各种针对AI视频生成的问题产生，而群内有AI视频生成使用经验的，则也在积...
-
超详细高质量图解 Stable Diffusion
最近有一篇国外博主分享的 图解Stable Diffusion 博客 写的非常的好，让你从零开始彻底搞懂图像生成模型的原理，我在这里给大家专业翻译整理一下。 正文开始 人工智能图像生成是最新的人工智能功能，令人惊叹不已（包括我的）。从文本描述中创造出...
-
摩尔线程GPU牵手东华软件：AI大模型适配已完成
快科技7月30日消息，摩尔线程、东华软件云筑AI创新中心联合宣布，双方已完成AI大模型推理测试与适配。 基于摩尔线程的全功能GPU国产算力，东华软件打造了AI Agent平台智多型（A.I.Cogniflex）”，基于私有化大模型，安全可信。 该平台集成了...
-
stable diffusion文生图代码解读
使用diffusers运行stable diffusion，文生图过程代码解读。 只按照下面这种最简单的运行代码，省略了一些参数的处理步骤。 from diffusers import DiffusionPipeline pipeline = Diffu...
-
一文速览Llama 3.1——对其92页paper的全面细致解读：涵盖语言、视觉、语音的架构、原理
前言 按我原本的计划，我是依次写这些文章：解读mamba2、解读open-television、我司7方面review微调gemma2，再接下来是TTT、nature审稿微调、序列并行、Flash Attention3.. 然TTT还没写完，7.23日...
-
每日AIGC最新进展(51)：昆仑万维震撼发布16B DiT-MoE图像生成模型、东北大学提出使用去噪神经权重进行高效训练、美团提出视频扩散模型量化方法
Diffusion Models专栏文章汇总：入门与实战 Scaling Diffusion Transformers to 16 Billion Parameters 本文介绍了DiT-MoE，一种可扩展的稀疏变分Transformer模型，它在...
-
Llama 对决 GPT：AI 开源拐点已至?｜智者访谈
Meta 发布 Llama3.1405B，开放权重大模型的性能表现首次与业内顶级封闭大模型比肩，AI 行业似乎正走向一个关键的分叉点。扎克伯格亲自撰文，坚定表明「开源 AI 即未来」，再次将开源与封闭的争论推向舞台中央。 回望过去，OpenAI 从开源到封...
-
AI：208-从文本到图像-DALL-E与MidJourney的技术解读
本文收录于专栏：精通AI实战千例专栏合集 https://blog.csdn.net/weixin_52908342/category_11863492.html 从基础到实践，深入学习。无论你是初学者还是经验丰富的老手，对于本专栏案例和项目实践...
-
hunyuandit_pytorch AIGC 以文生图模型
HunyuanDiT 论文 Hunyuan-DiT : A Powerful Multi-Resolution Diffusion Transformer with Fine-Grained Chinese Understanding https:/...
-
AI多模态模型架构之LLM主干(3)：Llama系列
〔探索AI的无限可能，微信关注“AIGCmagic”公众号，让AIGC科技点亮生活〕 本文作者：AIGCmagic社区 刘一手 前言 AI多模态大模型发展至今，每年都有非常优秀的工作产出，按照当前模型设计思路，多模态大模型的架构主要包括...
-
函数调用：在 xLAM 上微调 Llama 3得益于 QLoRA，速度快且内存高效
欢迎来到雲闪世界.最近的大型语言模型 (LLM 在大多数语言生成任务中都表现出色。然而，由于它们基于下一个标记预测进行操作，因此它们通常难以准确执行数学运算。此外...
-
天才程序员周弈帆 | Stable Diffusion 解读（三）：原版实现源码解读(篇幅略长，建议收藏！)
本文来源公众号“天才程序员周弈帆”，仅用于学术分享，侵权删，干货满满。 原文链接：Stable Diffusion 解读（三）：原版实现源码解读 天才程序员周弈帆 | Stable Diffusion 解读（一）：回顾早期工作-CSDN博客 天才程序...
-
ChatGLM3-6B使用lora微调实体抽取，工具LLaMA-Factory，医学数据集CMeEE
一、下载ChatGLM3-6B 下载地址，需要魔法 测试模型： 新建文件predict.py。运行下面测试代码。建议这里的transformers包最好和LLaMA-Factory环境的transformers包版本保持一致或者直接用LLaMA-Fa...
-
【大语言模型LLMs】Llama系列简介
【大语言模型LLMs】Llama系列简介 文章目录 【大语言模型LLMs】Llama系列简介 1. LLaMa 1.1 引言 1.2 方法 1.2.1 预训练数据 1.2.2 架构 1.2.3 优化器 1.2.4 效率 2....
-
【大模型】微调实战—使用 ORPO 微调 Llama 3
ORPO 是一种新颖微调（fine-tuning）技术，它将传统的监督微调（supervised fine-tuning）和偏好对齐（preference alignment）阶段合并为一个过程。这减少了训练所需的计算资源和时间。此外，实证结果表明，ORP...
-
Llama-3.1-70B有哪些功能？Meta AI最新模型怎么使用方法详细教程指南
Meta-Llama-3.1-70B 是什么？ Meta-Llama-3.1-70B是Meta公司推出的大型语言模型，拥有 70 亿个参数，支持 8 种语言的文本生成。该模型采用优化的Transformer架构，并通过监督式微调和人类反馈强化学习进一步优化...
-
Llama-3.1-8B功能介绍及免费使用指南 Meta AI最新模型体验地址入口
Meta-Llama-3.1-8B简介 Meta-Llama-3.1-8B是一款多语言大型语言模型（LLMs），包含8B大小的版本，支持 8 种语言，专为多语言对话用例优化，并在行业基准测试中表现优异。它采用自回归语言模型，使用优化的Transformer...
-
一文看懂 LLaMA 2：原理与模型训练介绍
近年来，人工智能领域的进展使得自然语言处理（NLP）技术得到了显著提升。LLaMA 2 是一种先进的语言模型，它在处理语言生成和理解任务上表现出色。本文将介绍 LLaMA 2 的基本原理、模型结构以及训练方法，帮助你全面了解这一技术。 1. LLaMA...
-
AIGC 原理与代码实例讲解
AIGC 原理与代码实例讲解 1. 背景介绍 1.1 问题的由来 随着人工智能技术的快速发展，生成式AI成为了科技界的一大热点。在众多生成技术中，AIGC（Artificial Intelligence for Generation and Crea...
-
一文者懂LLaMA 2（原理、模型、训练）
引言 LLaMA（Large Language Model Meta AI）是Meta（前身为Facebook）开发的自然语言处理模型家族之一，LLaMA 2作为其最新版本，展示了在语言理解和生成方面的显著进步。本文将详细解读LLaMA 2的基本原理、...
-
Stable Diffusion 3 论文及源码概览
天才程序员周弈帆 2024年07月13日 23:30 近期，最受开源社区欢迎的文生图模型 Stable Diffusion 的最新版本 Stable Diffusion 3 开放了源码和模型参数。开发者宣称，Stable Diffusion 3 使用了...
-
AIGC：人工智能生成内容的深度探索
目录 引言 技术基石：AIGC背后的力量 第一节：自然语言处理(NLP ——文字的智慧编织者 第二节：计算机视觉(CV ——计算机视觉 第三节：深度学习与神经网络——智能创造的引擎 第四节：生成对抗网络(GANs 思考 引言 ...
-
快速微调 Whisper 模型：LoRA 加速版
快速微调 Whisper 模型：LoRA 加速版 简述 在当今的AI世界中，模型的大小和复杂性已成为性能的关键驱动力。然而，这也带来了新的挑战：如何在有限的资源下对大型模型进行有效且高效的微调？现在，借助开源项目——Faster Whisper Fine...
-
AIGC的行业发展
1. AIGC的行业发展 AIGC（Artificial Intelligence Generated Content，人工智能生成内容）是利用人工智能技术来自动生成内容的一种新型内容创作方式。它基于生成对抗网络(GAN 、大型预训练模型等技术，通过对已...
-
llama-factory微调工具使用入门
一、定义 环境配置 案例： https://zhuanlan.zhihu.com/p/695287607 chatglm3 案例 多卡训练deepspeed llama factory 案例Qwen1.5 报错 二、实现 环境配置 git cl...
-
【小沐学AI】Python实现语音识别（whisper+HuggingFace）
文章目录 1、简介 1.1 whisper 2、HuggingFace 2.1 安装transformers 2.2 Pipeline 简介 2.3 Tasks 简介 2.3.1 sentiment-analysis 2.3.2 zero-...
-
快速上手文心一言进行知识问答、文本创作、知识推理、数学计算、代码理解与编写、作画、翻译等多种任务
本人详解 作者：王文峰，参加过 CSDN 2020年度博客之星，《Java王大师王天师》 公众号：JAVA开发王大师，专注于天道酬勤的 Java 开发问题中国国学、传统文化和代码爱好者的程序人生，期待你的关注和支持！本人外号：神秘小峯 山峯 转载说明：务...
-
Llama模型家族之拒绝抽样(Rejection Sampling)（九） 强化学习之Rejection Sampling
LlaMA 3 系列博客 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一） 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二） 基于 LlaMA 3 + LangGraph 在w...
-
给 ｢大模型初学者｣ 的 LLaMA 3 核心技术剖析
编者按： 本文旨在带领读者深入了解 LLaMA 3 的核心技术 —— 使用 RMSNorm 进行预归一化、SwiGLU 激活函数、旋转编码（RoPE）和字节对编码（BPE）算法。RMSNorm 技术让模型能够识别文本中的重点，SwiGLU 激活函数则如同“...
-
openai 开源模型Whisper语音转文本模型下载使用
Whisper Whisper 是一种通用语音识别模型。它是在大量不同音频数据集上进行训练的，也是一个多任务模型，可以执行多语言语音识别、语音翻译和语言识别。官方地址 https://github.com/openai/whisper 方法...
-
欢迎 Llama 3：Meta 的新一代开源大语言模型_meta llama guard 2
介绍 Meta 公司的 Llama 3 是开放获取的 Llama 系列的最新版本，现已在 Hugging Face 平台发布。看到 Meta 持续致力于开放 AI 领域的发展令人振奋，我们也非常高兴地全力支持此次发布，并实现了与 Hugging Fac...
-
大模型应用开发之业务架构和技术架构（从AI Embedded 到 Copilot,再到Agent）_embedding、copilot、agents
前言 截止到目前，我们已经从大模型的定义概念，应用层涉及的一些概念做了些了解。在大模型的应用开发中，RAG、Agent等概念我们之前也做了些简述，没有看过的可以粗略回顾一下：[大模型06-大模型应用开发之准备篇。 本文我们重点讲的就是伴随着大模型的广...
-
深入了解 Whisper 的架构、用法以及在语音识别领域的应用和性能特征
Whisper: 通用语音识别模型详解 概述 Whisper 是一个基于 Transformer 序列到序列模型的通用语音识别系统，经过训练可以执行多语种语音识别、语音翻译和语言识别任务。本文将深入介绍 Whisper 的工作原理、设置方法、可用模...
-
（5-5-01）金融市场情绪分析：使用Llama 2 大模型实现财经信息的情感分析微调（1）
5.5 使用Llama 2 大模型实现财经信息的情感分析微调 情感分析在金融和经济领域具有重要意义，可以帮助企业从市场洞察、风险管理和投资决策等方面获得有价值的信息。然而，在金融和经济文本方面的标注数据相对稀缺，因此需要使用自然语言处理技术和预训练模型...
-
Llama - 微调
本文翻译整理自：https://llama.meta.com/docs/how-to-guides/fine-tuning 文章目录 微调 实验跟踪 Recipes PEFT LoRA torchtune Hugging Face PE...
-
AIGC各个应用场景下的模型选择
需要注意的是，下述模型可以在不同任务和领域中灵活应用，它们的归属也会根据模型的设计和主要应用领域而有所变化，并不绝对。 自然语言处理模型 模型层中自然语言理解(Natural LanguageUnderstanding，NLU 和自然语言生成(N...
-
llama_readme
language: en pipeline_tag: text-generation tags: facebook meta pytorch llama llama-3 license: other license_name: l...
-
AIGC从入门到实战：ChatGPT 简介：从 GPT1 到 GPT4 的发展历程和应用领域
AIGC从入门到实战：ChatGPT 简介：从 GPT1 到 GPT4 的发展历程和应用领域 1. 背景介绍 1.1 问题的由来 自然语言处理(Natural Language Processing, NLP 是人工智能(Artificial...
-
Stable Diffusion秋叶AnimateDiff与TemporalKit插件冲突解决
文章目录 Stable Diffusion秋叶AnimateDiff与TemporalKit插件冲突解决 描述 错误描述：找不到模块imageio.v3 解决： 参考地址 其他文章推荐： 专栏 ： 人工智能基础知识点 专栏：大语言模型LL...
-
大模型学习笔记3【大模型】LLaMA学习笔记
文章目录 学习内容 LLaMA LLaMA模型结构 LLaMA下载和使用 好用的开源项目[Chinese-Alpaca](https://github.com/ymcui/Chinese-LLaMA-Alpaca Chinese-Alpaca...
-
天才程序员周弈帆 | Stable Diffusion 解读（四）：Diffusers实现源码解读
本文来源公众号“天才程序员周弈帆”，仅用于学术分享，侵权删，干货满满。 原文链接：Stable Diffusion 解读（四）：Diffusers实现源码解读 接上一篇文章[天才程序员周弈帆 | Stable Diffusion 解读（三）：原版实现源...
-
LLaMA原理与代码实例讲解
LLaMA原理与代码实例讲解 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 关键词：大模型、LLaMA、Transformer、预训练、微调 1. 背景介绍 1.1 问题的由来...
-
AIGC专栏13——ComfyUI 插件编写细节解析-以EasyAnimateV3为例
AIGC专栏13——ComfyUI 插件编写细节解析-以EasyAnimateV3为例 学习前言 什么是ComfyUI 相关地址汇总 ComfyUI EasyAnimateV3 节点例子 复杂例子-以EasyAnimateV3为例 节点文...
-
“全网最全”LLM推理框架集结营 - 看似微不足道，却决定着AIGC项目的成本、效率与性能!
00-前序 随着ChatGPT、GPT-4等大语言模型的出现，彻底点燃了国内外的学者们与企业家们研发LLM的热情。国内外的大语言模型如雨后春笋一般的出现，这些大语言模型有一部分是开源的，有一部分是闭源的。 伴随着大语言模型的出现，国内外基于大语言模型...
-
Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（七） 使用 LoRA 微调 LLM 的实用技巧
LlaMA 3 系列博客 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一） 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二） 基于 LlaMA 3 + LangGraph 在w...
-
基于MindSpore实现BERT对话情绪识别
本文分享自华为云社区《【昇思25天学习打卡营打卡指南-第二十四天】基于 MindSpore 实现 BERT 对话情绪识别》，作者：JeffDing。 模型简介 BERT全称是来自变换器的双向编码器表征量（Bidirectional Encoder...