-
【HuggingFace Transformers】LlamaModel源码解析
LlamaModel源码解析 1. LlamaModel 介绍 2. LlamaModel类 源码解析 3. 4维因果注意力掩码生成 1. LlamaModel 介绍 LlamaModel 是一个基于 Transformer 架构...
-
手把手带你了解和实践扩充 LLaMA 大语言模型的 tokenizer 模型（实现中文token过程）
目前，大语言模型呈爆发式的增长，其中，基于llama家族的模型占据了半壁江山。而原始的llama模型对中文的支持不太友好，接下来本文将讲解如何去扩充vocab里面的词以对中文进行token化。 一般的，目前比较主流的是使用sentencepiece训练中...
-
Llama-factory的yaml配置参数--学习记录
最近llama-factory的配置参数有很多不懂的地方，整理了一些但也有可能有错，仅供大家参考。 # 可选参数 # 模型和适配器相关 --adapter_name_or_path # 描述: 适配器的名称或路径。 --adapter_folder...
-
LLaMA-Factory微调llama3之模型的合并，并采用llama.cpp量化成ollama支持的gguf格式模型，生成api使用
上期我们已经成功的训练了模型，让llama3中文聊天版知道了自己的名字 这次我们从合并模型开始，然后使用llama.cpp量化成gguf格式，并且调用api (1 前期准备 上期链接： 基于LLaMA-Factory微调llama3成为一个角色扮演...
-
快速体验LLaMA-Factory 私有化部署和高效微调Llama3模型（曙光超算互联网平台异构加速卡DCU）
序言 本文以 LLaMA-Factory 为例，在超算互联网平台SCNet上使用异构加速卡AI 显存64GB PCIE，私有化部署Llama3模型，并对 Llama3-8B-Instruct 模型进行 LoRA 微调、推理和合并。 快速体验基础版本，...
-
基于MindSpore实现BERT对话情绪识别
本文分享自华为云社区《【昇思25天学习打卡营打卡指南-第二十四天】基于 MindSpore 实现 BERT 对话情绪识别》，作者：JeffDing。 模型简介 BERT全称是来自变换器的双向编码器表征量（Bidirectional Encoder...
-
AIGC笔记--Stable Diffusion源码剖析之UNetModel
1--前言 以论文《High-Resolution Image Synthesis with Latent Diffusion Models》 开源的项目为例，剖析Stable Diffusion经典组成部分，巩固学习加深印象。...
-
Llama Factory 笔记
本地环境：cuda 11.7 torch2.1.0 项目文件结构： 1. 项目文件结构： 如果利用Llama Factory 进行微调主要会用到 LLama-Factory/src 中的文件 2. src 下的目录结构 本地推理的...
-
使用Unity 接入 Stable-Diffusion-WebUI的 文生图api 并生成图像
使用Unity 接入 Stable-Diffusion-WebUI 文生图生成图像 文章目录 使用Unity 接入 Stable-Diffusion-WebUI 文生图生成图像 一、前言 二、具体步骤 1、启动SD的api设置 2、...
-
用 LLaMA-Factory 在魔搭微调千问
今天在魔搭上把千问调优跑通了，训练模型现在在 Mac 还不支持，需要用 N 卡才可以，只能弄个N 卡的机器，或者买个云服务器。魔搭可以用几十个小时，但是不太稳定，有的时候会自动停止。 注册账号 直接手机号注册就可以. 找到对应模型 这步可能不需...
-
Llama-Factory 简介 二， 脚本详解 LLaMA-Factory/src/train_bash.py LLaMA-Factory/src/llmtuner/train/pt/workfl
examples/ ├── lora_single_gpu/ │ ├── pretrain.sh: 基于 LoRA 进行增量预训练 │ ├── sft.sh: 基于 LoRA 进行指令监督微调 │ ├── reward.sh: 基于 LoRA...
-
在autodl平台使用llama-factory微调Qwen1.5-7B
1 部署环境 step 1. 使用24GB显存以上的显卡创建环境 step 2. 创建好环境之后，关闭环境，使用无卡模式开机（有钱可忽略） step 3. 安装LLaMA-Factory git clone https://github.com/...
-
llama-factory SFT系列教程 (二)，大模型在自定义数据集 lora 训练与部署
文章目录 简介 支持的模型列表 2. 添加自定义数据集 3. lora 微调 4. 大模型 + lora 权重，部署 问题 参考资料 简介 文章列表： llama-factory SFT系列教程 (一 ，大模型 API 部署与...
-
autodl 上 使用 LLaMA-Factory 微调 中文版 llama3
autodl 上 使用 LLaMA-Factory 微调 中文版 llama3 环境准备 创建虚拟环境 下载微调工具 LLaMA-Factory 下载 llama3-8B 开始微调 测试微调结果 模型合并后导出 vllm 加速推理...
-
stable-diffusion-webui中stability的sdv1.5和sdxl模型结构config对比
sdv1.5 v1-inference.yaml model: base_learning_rate: 1.0e-04 target: ldm.models.diffusion.ddpm.LatentDiffusion params:...
-
LLaMA-Factory 8卡4090 deepspeed zero3 微调Qwen14B-chat
环境安装 推荐使用docker，Ubuntu20.04https://www.modelscope.cn/docs/%E7%8E%AF%E5%A2%83%E5%AE%89%E8%A3%85 docker pull registry.cn-beijin...
-
人人都要学AI绘画 | Midjourney入门篇
2023可谓是AIGC元年，从2023到如今AI经历了许多，从质疑/抵制AI——到尝试/理解AI——再到现在使用AI。 本篇内容主要是给大家讲讲Midjourney的学习及使用方法，如果你是纯小白学习看这篇文章就够了！ Midjourney实操指南...
-
Stable Diffusion结构解析-以图像生成图像（图生图，img2img）
手把手教你入门绘图超强的AI绘画，用户只需要输入一段图片的文字描述，即可生成精美的绘画。给大家带来了全新保姆级教程资料包 （文末可获取） AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例 学习...
-
AI 编程的机会和未来：从 Copilot 到 Code Agent
大模型的快速发展带来了 AI 应用的井喷。统计 GPT 使用情况，编程远超其他成为落地最快、使用率最高的场景。如今，大量程序员已经习惯了在 AI 辅助下进行编程。数据显示，GitHub Copilot 将程序员工作效率提升了 55%，一些实验中 AI 甚至...
-
Stable Diffusion结构解析-以图像生成图像！
手把手教你入门绘图超强的AI绘画，用户只需要输入一段图片的文字描述，即可生成精美的绘画。给大家带来了全新保姆级教程资料包 （文末可获取） AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例 学习...
-
Llama-7b-hf和vicuna-7b-delta-v0合并成vicuna-7b-v0
最近使用pandagpt需要vicuna-7b-v0，重新过了一遍，前段时间部署了vicuna-7b-v3，还是有不少差别的，transforms和fastchat版本更新导致许多地方不匹配，出现很多错误，记录一下。 更多相关内容可见Fastchat实战...
-
【扩散模型】万字长文全面理解与应用Stable Diffusion
万字长文全面理解与应用Stable Diffusion 1. Stable Diffusion简介 1.1 基本概念 1.2 主体结构 1.3 训练细节 1.4 模型评测 1.5 模型应用 1.6 模型版本 1.7 其他类型的条件生成模型 1...
-
AIGC专栏2——Stable Diffusion结构解析-以文本生成图像（文生图，txt2img）为例
AIGC专栏2——Stable Diffusion结构解析-以文本生成图像（文生图，txt2img）为例 学习前言 源码下载地址 网络构建 一、什么是Stable Diffusion（SD） 二、Stable Diffusion的组成 三、生...
-
大模型部署手记（13）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+LangChain+摘要问答
1.简介： 组织机构：Meta（Facebook） 代码仓：GitHub - facebookresearch/llama: Inference code for LLaMA models 模型：chinese-alpaca-2-7b-hf、text...
-
AI平台：#1 Text To Speech (TTS) Reader Online. Free & Unlimited
#1 Text To Speech (TTS Reader Online. Free & UnlimitedTTSReader TTSReader 🔊PlayerVoice OverLegacyMore Stories (Books User M...
-
安装stable diffusion报错
安装stable diffusion报错 总是报 RuntimeError: Couldn’t install gfpgan. 最终解决方案参照网络文章：https://zhuanlan.zhihu.com/p/608397859 设置了以下之后再重新运...
-
LLM实践-在Colab上使用免费T4 GPU进行Chinese-Llama-2-7b-4bit推理
一、配置环境 1、打开colab，创建一个空白notebook，在[修改运行时环境]中选择15GB显存的T4 GPU. 2、pip安装依赖python包 !pip install --upgrade accelerate !pip ins...
-
Stability AI推出Stable Diffusion XL 1.0，文本到图像模型
Stability AI宣布推出Stable Diffusion XL 1.0，这是一个文本到图像的模型，该公司将其描述为迄今为止“最先进的”版本。 Stability AI表示，SDXL 1.0能生成更加鲜明准确的色彩，在对比度、光线和阴影方面做了增强...
-
细数【SD-WEBUI】的模型：谁是最适合的模型&从哪里找到它们
文章目录 （零）前言 （一）基础模型（Stable-Diffusion模型） （1.1）ChilloutMix（仿真） （1.2）BasilMix（仿真） （1.3）BeautyProMix（仿真） （1.4）ChikMix（仿真） （1.5...
-
用检索增强生成让大模型更强大，这里有个手把手的Python实现
本文首先将关注 RAG 的概念和理论。然后将展示可以如何使用用于编排（orchestration）的 LangChain、OpenAI 语言模型和 Weaviate 向量数据库来实现一个简单的 RAG。 检索增强生成是什么？ 检索增强生成（RAG）这一...
-
AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例
AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例 学习前言 源码下载地址 网络构建 一、什么是Stable Diffusion（SD） 二、Stable Diffusion的组成 三、i...
-
AI 绘画Stable Diffusion 研究（三）sd模型种类介绍及安装使用详解
本文使用工具，作者:秋葉aaaki 免责声明: 工具免费提供 无任何盈利目的 大家好，我是风雨无阻。 今天为大家带来的是 AI 绘画Stable Diffusion 研究（三）sd模型种类介绍及安装使用详解。 目前，AI 绘画Stable Diff...
-
私人定制AI绘画——快速finetune stable diffusion教程
最近AI绘图非常火，只需要输入文本就能得到令人惊艳的图。 举个例子，输入 “photo of a gorgeous young woman in the style of stefan kostic and david la chapelle, coy,...
-
AIGC专栏7——EasyPhoto 人像训练与生成原理详解
AIGC专栏7——EasyPhoto 人像训练与生成原理详解 学习前言 源码下载地址 为什么是Lora EasyPhoto的训练流程 1、数据的预处理 a、人像排序 i、人脸特征向量提取过程 ii、人脸偏移角度计算 iii、人像排序 b...
-
基于Flume+Log4j+Kafka的日志采集架构方案（上）
Flume是一个完善、强大的日志采集工具，关于它的配置，在网上有很多现成的例子和资料，这里仅做简单说明不再详细赘述。 Flume包含Source、Channel、Sink三个最基本的概念： Source——日志来源，其中包括：Avro Source、...
-
数据采集中间件技术对比V1.0
文章目录 1 前言 2 数据采集中间件对比 2.1 支持的数据源 2.2 支持的数据格式 2.3 支持的上下游中间件 2.4 任务监控 3 MYSQL的BINLOG日志工具分析：CANAL、MAXWELL 4 有赞大数据：FLUME 数据采...
-
图灵奖得主吵起来了，LeCun：Bengio、Hinton等的AI灭绝论是荒谬的
关于 AI 风险的问题，各路大佬们也是意见不统一。有人带头签署联名信，呼吁 AI 实验室应立即暂停研究，深度学习三巨头 Geoffrey Hinton、Yoshua Bengio 等都支持这一观点。 就在近几日，Bengio、Hinton 等再发联名信《...