-
llama-factory微调工具使用入门
一、定义 环境配置 案例： https://zhuanlan.zhihu.com/p/695287607 chatglm3 案例 多卡训练deepspeed llama factory 案例Qwen1.5 报错 二、实现 环境配置 git cl...
-
AFAC2024-基于保险条款的问答 比赛日记 llamafactory qwen npu 910B1
AFAC2024: 基于保险条款的问答挑战——我的实战日记 概述 在最近的AFAC2024竞赛中，我参与了基于保险条款的问答赛道。这是一次深度学习与自然语言处理的实战演练，旨在提升模型在复杂保险文本理解与问答生成方面的能力。本文将分享我的参赛过程，...
-
LLaMA-Factory/scripts/length_cdf.py 源码解析
这段代码定义了一个函数 length_cdf，用来计算和打印数据集样本长度的累积分布函数（CDF），并在脚本直接运行时通过 fire 库将该函数暴露为命令行接口。我们逐行解释这段代码： python 复制 from llmtuner.data imp...
-
OS Copilot测评
1.按照第一步管理重置密码时报错了,搞不懂为啥?本来应该跳转到给的那个实例的,我的没跳过去 2.下一步重置密码的很丝滑没问题 3安全组新增入库22没问题 很方便清晰 4.AccessKey 还能进行预警提示 5.远程连接,网速还是很...
-
【从零开始AI绘画5】StableDiffusionWebUI的clip skip以及ENSD设定
文章目录 clip skip和ENSD clip skip设定为2,ensd设定为31337 clip skip和ENSD 在初期本人并没有设定这两项，只是在不断的学习（copy）别人的提示词后发现，即使使用了相同的参数种子模型...
-
Llama - 微调
本文翻译整理自：https://llama.meta.com/docs/how-to-guides/fine-tuning 文章目录 微调 实验跟踪 Recipes PEFT LoRA torchtune Hugging Face PE...
-
llama_readme
language: en pipeline_tag: text-generation tags: facebook meta pytorch llama llama-3 license: other license_name: l...
-
Stable Diffusion秋叶AnimateDiff与TemporalKit插件冲突解决
文章目录 Stable Diffusion秋叶AnimateDiff与TemporalKit插件冲突解决 描述 错误描述：找不到模块imageio.v3 解决： 参考地址 其他文章推荐： 专栏 ： 人工智能基础知识点 专栏：大语言模型LL...
-
OpenAI发布PVG：用小模型验证大模型输出，解决“黑盒”难题
7月18日凌晨，OpenAI在官网发布了最新技术研究——Prover-Verifier-Games。 随着ChatGPT在法律、金融、营销等领域的广泛使用，确保模型的安全、准确输出同时被很好理解变得非常重要。但由于神经网络的复杂和多变性，我们根本无法验证其...
-
AIGC爬虫实战（一）
前言 传统的网络爬虫系统效率较低且难以应对复杂多变的网页环境 基于AIGC技术的智能化爬虫,则可以大幅提升爬虫的自主性和适应性,从而更高效地完成网络数据的采集和分析任务 本文将通过一系列实战案例,深入探讨AIGC技术在网络爬虫开发中的具体应用...
-
AIGC详解
AIGC（AI-Generated Content）指的是利用人工智能技术自动生成内容，包括文本、图像、音频、视频等。AIGC技术近年来迅猛发展，已经在多个领域取得了显著的成果。 什么是AIGC AIGC，即人工智能生成内容，是指通过人工智能技术生成...
-
天才程序员周弈帆 | Stable Diffusion 解读（四）：Diffusers实现源码解读
本文来源公众号“天才程序员周弈帆”，仅用于学术分享，侵权删，干货满满。 原文链接：Stable Diffusion 解读（四）：Diffusers实现源码解读 接上一篇文章[天才程序员周弈帆 | Stable Diffusion 解读（三）：原版实现源...
-
Java集成stable diffusion 的方法
在Java中直接集成Stable Diffusion模型（一个用于文本到图像生成的深度学习模型，通常基于PyTorch或TensorFlow）是非常具有挑战性的，因为Java本身并不直接支持深度学习模型的运行。不过，我们可以通过JNI（Java Nativ...
-
揭秘！FFmpeg+Whisper双剑合璧：解锁视频到文本的二阶段奇迹
解锁视频到文本的二阶段奇迹 一、引言 二、视频音频提取与处理 视频音频提取与处理 2.1 环境搭建 2.2 视频音频提取 2.3 音频预处理 示例代码： 三、语音识别与翻译 3.1 加载Whisper模型 3.2 语音识别 3.3 语言检...
-
深度解读昇腾CANN模型下沉技术，提升模型调度性能
本文分享自华为云社区《深度解读昇腾CANN模型下沉技术，提升模型调度性能》，作者：昇腾CANN。 AI模型的运行通常情况下需要CPU和NPU（昇腾AI处理器）等AI专用处理器协同工作，CPU所在位置称为主机端（Host），而NPU所在位置称为设备端（De...
-
LLama Factory微调模型全流程，与peft库调用训练的adapter
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 LLama Factory微调流程 一、准备微调的数据集和模型 二、读取模型和数据进行训练 1.使用web ui 2.修改官方脚本（推荐） 第三，加载与推...
-
LLaMA-Factory在华为显卡上的实验记录
如何判断目前所选择的模型是否支持 LLaMA-Factory/src/llamafactory/data/template.py 在项目的这个地址中会有不同模型的支持模版。 这里用目前我最常用的两个模型举例子 一个是智谱的glm4-9B模型 _regi...
-
【人工智能】一文看懂 LLaMA 2：原理、模型与训练
LLaMA 2（Large Language Model for AI Modeling and Assistance）是近年来广受关注的大规模语言模型之一。它被广泛应用于自然语言处理（NLP）任务，如文本生成、机器翻译和问答系统。本文将深入介绍LLaMA...
-
第二节：stable diffusion基本界面和操作流程
一.基本界面 二.简单操作 1.选择大模型 webui只是一个执行程序，图形的画风内容很大程度由模型控制，先推荐两个学习的模型，一个是stable diffusion1.4，一个是外网非常受欢迎的二次元风模型，AbyssOra...
-
llama-factory学习使用笔记
想要对开源的llama大模型，针对自己的数据进行微调，这里推荐llama-factory项目，LLama Factory，这个工具能够高效且低成本地支持对 100 多个模型进行微调。LLama Factory 简化了模型微调的过程，并且易于访问...
-
【Llama 2的使用方法】
Llama 2是Meta AI（Facebook的母公司Meta的AI部门）开发并开源的大型语言模型系列之一。Llama 2是在其前身Llama模型的基础上进行改进和扩展的，旨在提供更强大的自然语言处理能力和更广泛的应用场景。 以下是Llama 2的一...
-
深入了解语音识别：Distil-Whisper
Distil-Whisper模型概述 1.1 Distil-Whisper的背景与意义 随着语音识别技术的不断发展，模型的大小和计算复杂度成为了制约其广泛应用的重要因素。特别是在边缘设备和实时应用场景中，对模型的效率和性能提出了更高的要求。Dist...
-
如何训练一个stable diffusion模型?
提前总结 显卡要好，显存要高 素材像素要好，数量越多越好 素材不必要的元素越少越好，太多就扣像留白底 要好好的打标签，影响最终效果 硬件要求 建议N卡且显卡显存至少8G，显存越高越好（即价格越贵越好）； 4G需要调整参数，而且速度较慢，不推荐...
-
AIGC从入门到实战：登录 DID
AIGC从入门到实战：登录 D-ID 1. 背景介绍 1.1 问题的由来 随着人工智能技术的迅速发展，身份验证领域也在不断创新。在现代社会中，安全、便捷的身份验证成为了必不可少的功能。然而，传统的人脸识别系统存在隐私泄露的风险，尤其是在大规模数据库中...
-
Llama-factory源码详细解读
微调 采用逐行调试的方法，细节来看SFT代码 AutoModelForCausalLM...
-
stable diffusion图生图重绘原图尺寸系统崩溃
*** Error completing request *** Arguments: ('task(edxse6e6xomcsl5 ', <gradio.routes.Request object at 0x0000024671E57EE0>...
-
Chinese-LLaMA-Alpaca-2模型量化部署&测试
简介 Chinese-LLaMA-Alpaca-2基于Meta发布的可商用大模型Llama-2开发, 是中文LLaMA&Alpaca大模型的第二期项目. 量化 模型的下载还是应用脚本 bash hfd.sh hfl/chinese-al...
-
在亚马逊云科技AWS上利用SageMaker机器学习模型平台搭建生成式AI应用（附Llama大模型部署和测试代码）
项目简介： 接下来，小李哥将会每天介绍一个基于亚马逊云科技AWS云计算平台的全球前沿AI技术解决方案，帮助大家快速了解国际上最热门的云计算平台亚马逊云科技AWS AI最佳实践，并应用到自己的日常工作里。本次介绍的是如何在Amazon SageMaker上...
-
使用LlamaFactory进行模型微调：参数详解
在深度学习和自然语言处理领域，模型微调是提升预训练模型性能的重要手段。本文将介绍如何使用LlamaFactory进行模型微调，并详细解析一些关键参数，包括 --cutoff_len 1024、--flash_attn auto、--lora_rank 8、...
-
[大模型]Llama-3-8B-Instruct FastApi 部署调用
环境准备 在 Autodl 平台中租赁一个 3090 等 24G 显存的显卡机器，如下图所示镜像选择 PyTorch-->2.1.0-->3.10(ubuntu22.04 -->12.1。 接下来打开刚刚租用服务器的 JupyterL...
-
Llama 3 模型微调的步骤
环境准备 操作系统：Ubuntu 22.04.5 LTS Anaconda3：Miniconda3-latest-Linux-x86_64 GPU： NVIDIA GeForce RTX 4090 24G Step 1. 准备conda环境 创...
-
This Person Does Not Exist：AI绘画工具创造的虚构人物
引言 随着人工智能技术的飞速发展，AI绘画工具已经能够生成逼真的虚构人物图像。这些工具利用生成对抗网络（GAN）等深度学习技术，能够生成从未存在过的高质量人脸图像。“This Person Does Not Exist” 是其中最著名的一个网站，展示了...
-
LLama-Factory大模型训练框架，基于自己数据集微调qwen7B模型实战
一，项目简介 LLama-Factory，大模型训练框架，支持多种模型，多种训练方式， 项目github地址：link 项目特色 多种模型：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baic...
-
OpenAI之Whisper实时语音分析转文字
1.安装ffmpeg 2.安装python3.11 3.安装whisper pip install whisper conda环境安装whisper conda install whisper 命令行安装openai-whisper...
-
【Python】科研代码学习：十六 Model架构的代码细节，附架构图：Llama 为例 （v4.28.0）
【Python】科研代码学习：十六 Model与网络架构 的代码细节：Llama 为例（v4.28.0） 前言 导入依赖 `LlamaRMSNorm`：改进的 层正则化 `LlamaRotaryEmbedding`：旋转式位置编码 `Llama...
-
llama factory 增量预训练代码解析 & .yaml文件传参和sh的不同 examples/train_lora/llama3_lora_pretrain.yaml
新版本(2024年后 的llama factory，改用了.yaml文件传参的方式，请问和原始的.sh传参方式有什么不同？ 新版本的 llama factory 框架使用 .yaml 文件来传递参数，相较于原始的 .sh 脚本传参方式，有一些显著的不...
-
在昇腾服务器上使用llama-factory对baichuan2-13b模型进行lora微调
什么是lora微调 LoRA 提出在预训练模型的参数矩阵上添加低秩分解矩阵来近似每层的参数更新，从而减少适配下游任务所需要训练的参数。 环境准备 这次使用到的微调框架是llama-factory。这个框架集成了对多种模型进行各种训练的代码，少...
-
Meta Llama 3 残差结构
Meta Llama 3 残差结构 flyfish 在Transformer架构中，残差结构（Residual Connections）是一个关键组件，它在模型的性能和训练稳定性上起到了重要作用。残差结构最早由He et al.在ResNet中提出，并...
-
whisper.cpp 学习笔记
whisper.cpp whisper.cpp 学习笔记 whisper 介绍 源码下载 源码编译 支持的模型 优化/加速 生成库文件 使用 whispe.cpp 的 demo 参考文献 whisper.cpp 学习笔记...
-
【AIGC】LangChain入门指南—第二章 LangChain入门指南
第二章 LangChain入门指南 文章目录 第二章 LangChain入门指南 前言 一、主要内容 1、初识LangChain 1.1 为什么需要LangChain 1.2 LLM应用开发的最后1公里 1.3 LangChain的...
-
语音识别教程：Whisper
语音识别教程：Whisper 一、前言 最近看国外教学视频的需求，有些不是很适应，找了找AI字幕效果也不是很好，遂打算基于Whisper和GPT做一个AI字幕给自己。 二、具体步骤 1、安装FFmpeg Windows: 进入 ht...
-
Faster-whisper+silero-vad 实时语音转录
环境搭建 需要使用cuda 在 cmd 控制台里输入 nvidia-smi.exe 以查看显卡驱动版本和对应的 cuda 版本 前往 NVIDIA-CUDA 官网下载与系统对应的 Cuda 版本 以 Cuda-11.7 版本为例，根据自己的...
-
使用LLaMA-Factory微调Llama3大模型
一、基础模型下载 本文的背景是微调一个基于Llama3的中文版模型Llama3-8B-Chinese-Chat，用于中文指定领域的问答下游任务 1、HuggingFace官网直接下载 官网地址：https://huggingface.co/mo...
-
【小沐学AI】Python实现语音识别（whisperX）
文章目录 1、简介 1.1 whisper 1.2 whisperX 2、安装 2.1 安装cuda 2.2 安装whisperX 结语 1、简介 1.1 whisper https://arxiv.org/pdf/2...
-
视频多模态模型: VideoChat、Video-LLaMA、Video-ChatGPT、Video-LLaVA等
VideoChat VideoChat?: 基于视频指令数据微调的聊天机器人 https://arxiv.org/pdf/2305.06355.pdf https://github.com/OpenGVLab/Ask-Anything/tr...
-
文献研读｜AIGC溯源场景及研究进展
前言：本文介绍关于AIGC生成阶段针对不同溯源场景的几篇相关工作。 相关文章：针对文生图模型的AIGC检测论文研读，参见此篇文章。 如下图所示，在AIGC生成阶段，有4种溯源场景： 1）生成模型溯源训练数据 2）微调模型溯源预训练模型 3）AI...
-
【LLM教程-llama】如何Fine Tuning大语言模型？
今天给大家带来了一篇超级详细的教程,手把手教你如何对大语言模型进行微调(Fine Tuning ！（代码和详细解释放在后文） 目录 大语言模型进行微调(Fine Tuning 需要哪些步骤？ 大语言模型进行微调(Fine Tuning 训练过程及代码...
-
vue前端实现导出页面为word(两种方法)
将vue页面导出为word文档，不用写模板，直接导出即可。 第一种方法(简单版 第一步：安装所需依赖 npm install html-docx-js -S npm install file-saver -S 第二步：创建容器，页面使用...
-
新手专享！Stable Diffusion WebUI的5款基础插件，必装指南
大家好，我是程序员晓晓 上期我们介绍了Stable Diffusion 云端部署的安装、方式，今天我要继续为大家推荐5款必须安装的插件，它们可以帮助我们更好地使用、管理相关的资源。 一、Localization zh_Hans：中文汉化包 插件地址...
-
欢迎 Stable Diffusion 3 加入 Diffusers
作为 Stability AI 的 Stable Diffusion 家族最新的模型，Stable Diffusion 3(SD3 现已登陆 Hugging Face Hub，并且可用在 ? Diffusers 中使用了。 Stable Dif...