-
Datawhale X 魔搭 AI夏令营 第四期-AIGC方向Task2笔记
baseline的流程图 Baseline代码 !pip install simple-aesthetics-predictor !pip install -v -e data-juicer !pip uninstall pytorch-...
-
【大模型与AIGC】VLM基础知识汇总
这里写目录标题 LLM输入时的理解 1. Tokenizer的实现：Word极大似然估计 LLM推理：关于Attention mask的理解 1. CausalModel 与 AttentionMask 2. attention mask乘法...
-
中文法律LLaMA (Lawyer LLaMA) 使用教程
中文法律LLaMA (Lawyer LLaMA 使用教程 lawyer-llama中文法律LLaMA (LLaMA for Chinese legel domain 项目地址:https://gitcode.com/gh_mirrors/la/law...
-
Whisper JAX：闪电般快速的语音识别框架
Whisper JAX：闪电般快速的语音识别框架 whisper-jaxJAX implementation of OpenAI's Whisper model for up to 70x speed-up on TPU.项目地址:https://gi...
-
【AIGC】ComfyUI安装及常见问题cuda及pytorch安装教程
说明：ComfyUI安装方式有很两种，第一种是下载独立包。独立包下载到本地后，即可使用。不需要搭建（安装）python、cuda、cudnn、pytorch环境. 第二种是，手动安装。手动安装要复杂很多，需要搭建开发环境，即安装python、cuda、c...
-
Linly-Talker容器构建
一、模型介绍 Linly-Talker 是一款集成了多种人工智能技术的数字人对话系统，它通过多模型集成、多轮对话能力、语音克隆技术、实时互动和视觉增强，为用户提供了一种全新的交互体验。 二、特点 智能和个性化 ：系统不仅能够理解并生成自然语言，还...
-
深度技术分析：Meta Llama 3模型训练故障剖析
## 摘要 Meta公司在一项涉及16,384个Nvidia H100 80GB GPU的Llama 3 405B模型训练中，遭遇了频繁的硬件故障。在54天的训练期间，平均每三小时就发生一次组件故障，其中半数故障与GPU或其HBM3内存有关。尽管面临如此挑...
-
LLaMa-Factory入门教程
LLaMa-Factory是一个基于人工智能技术的开源项目，专为大型语言模型（LLMs）的微调而设计。它提供了丰富的工具和接口，使得用户能够轻松地对预训练的模型进行定制化的训练和调整，以适应特定的应用场景。以下将详细介绍如何使用LLaMa-Factory：...
-
LLaMA-Lite：轻量级Llama模型简介与实战指南
LLaMA-Lite：轻量级Llama模型简介与实战指南 llama-lite Embeddings focused small version of Llama NLP model 项目地址: https://gitcode.com/gh_m...
-
【Stable Diffusion Webui】本地部署教程——使用虚拟环境，教你以简洁不折腾的方式入坑AI绘画
【Stable Diffusion Webui】本地部署教程——使用虚拟环境，教你以简洁不折腾的方式入坑AI绘画 引言 何谓“三个必要，两句代码”？ 操作流程 （1）Anaconda、Git的下载安装 （2）创建conda虚拟环境 （3）在虚...
-
Ubuntu LLaMA-Factory实战
一、Ubuntu LLaMA-Factory实战安装： CUDA 安装 CUDA 是由 NVIDIA 创建的一个并行计算平台和编程模型，它让开发者可以使用 NVIDIA 的 GPU 进行高性能的并行计算。 首先，在 https://develop...
-
基于 ROS 的Terraform托管服务轻松部署Stable Diffusion
介绍 Stable Diffusion是文本到图像的潜在扩散模型，它可以根据文本提示词生成对应的图像。Stable Diffusion模型是扩散模型的变种，可以通过逐步对随机高斯噪声进行去噪以获得感兴趣的样本。与传统生成模型相比，Stable Diff...
-
LLaMA-Factory 安装和配置指南
LLaMA-Factory 安装和配置指南 LLaMA-Factory 易于使用的LLM微调框架（LLaMA, BLOOM, Mistral, 百川， Qwen, ChatGLM）。 项目地址: https://gitcode.com/gh_m...
-
使用llama.cpp 在推理MiniCPM-1.2B模型
llama.cpp 是一个开源项目，它允许用户在C++中实现与LLaMA（Large Language Model Meta AI）模型的交互。LLaMA模型是由Meta Platforms开发的一种大型语言模型，虽然llama.cpp本身并不包含LLaM...
-
使用 GaLore 预训练LLaMA-7B
项目代码： https://github.com/jiaweizzhao/galorehttps://github.com/jiaweizzhao/galore 参考博客： https://zhuanlan.zhihu.com/p/686686751...
-
下载官方llama
1.官网.pth格式 去官网（Download Llama (meta.com ）申请 具体可以看这个B站视频 Llama2模型申请与本地部署详细教程_哔哩哔哩_bilibili（视频是llama2，下载llama3是另外一个git） 相关...
-
Stable Diffusion WebUI 1.10.0来了（附SD3模型）
前几天 AUTOMATIC1111 发布了Stable Diffusion WebUI 1.10，我也在第一时间将云环境的镜像升级到了最新版本，有兴趣的同学可以去体验下，目前已经发布到了AutoDL 这篇文章集中给大家介绍下SD WebUI 1.10的新...
-
利用 FP8 量化加速 Llama-3-70B 推理
本文针对在 Amazon P5 (H100 GPU 上部署 Llama-3-70b FP8 精度模型的两种方案选型（Trion 及 LMI – Large Model Inference 容器）进行了探索，同时提供了基于 FMBench 的性能评估的最佳...
-
在 windows 上部署使用 Whisper 教程
在 Windows 上部署 OpenAI Whisper：详细教程 OpenAI Whisper 是一个功能强大的多语言语音识别模型，能够处理多种音频格式并生成高质量的字幕文件。本文将详细介绍如何在 Windows 系统上部署 Whisper，利用 G...
-
ERROR: Failed to build installable wheels for some pyproject.toml based projects (llama-cpp-python)
Building wheels for collected packages: llama-cpp-python Building wheel for llama-cpp-python (pyproject.toml ... error erro...
-
Datawhale训练营AIGC方向 第二期
Datawhale训练营AIGC方向 第二期 AI生图模型 概念 AI生图模型属于多模态机器学习模型，通过海量的图库和文本描述的深度神经网络学习，最终的目标是可以根据输入的指示(不管是文本还是图片还是任何 生成符合语义的图片。 通俗来说...
-
丹摩智算平台部署 Llama 3.1：实践与体验
文章目录 前言 部署前的准备 创建实例 部署与配置 Llama 3.1 使用心得 总结 前言 在最近的开发工作中，我有机会体验了丹摩智算平台，部署并使用了 Llama 3.1 模型。在人工智能和大模型领域，Meta 推出的 Lla...
-
Stable-Diffusion-web UI运行环境搭建和界面配置
Stable-Diffusion-web UI运行环境搭建和界面配置 前言 一、论文 二、源码下载 三、权重模型和文件下载 （1）下载sd-v1-4.ckpt模型 （2）下载openai/clip-vit-large-patch14模型...
-
Datawhale X 魔塔 AI夏令营第四期-AIGC文生图方向 Task3笔记
一、工具初探——ComfyUI应用场景探索 1、什么是ComfyUI 在介绍ComfyUI之前，我们先来回顾一下我们熟悉的GUI。 GUI 是 "Graphical User Interface"（图形用户界面）的缩写。简单来说，GUI 就是在电脑屏...
-
＜Project-3 Video2SubTitle＞ Python coding Flask应用：从视频中，提取对白，生成独立的字幕文件 浏览器页面交互 调用cuda, Whisper模型
原因： 在网上看到一个视频没有字幕。 记者问小泉纯一郎 (前日本首相 ，我只是好奇，想知道Y说的是什么。 上面这个帖子里的视频：https://x.com/i/status/1834489208398115295 视频没有字幕，那就自己做...
-
将LLaMA模型导出为ONNX格式的教程
将LLaMA模型导出为ONNX格式的教程 export_llama_to_onnx export llama to onnx 项目地址: https://gitcode.com/gh_mirrors/ex/export_llama_to_onn...
-
DataWhale夏令营第四期魔搭- AIGC方向 task03笔记
文章目录 前言 一、ComfyUI的了解 1.认识ComfyUI 2. GUI的图片生成流程 二、Lora微调 1. Lora和微调简介 2.Lora微调的优势和详细内容 3.Lora实例详解 三，训练集的get 总结 前...
-
【一文读懂】Whisper 语音识别
Whisper 语音识别 Whisper 是由 OpenAI 开发的一款先进的语音识别模型，它能够将语音转换为文本。Whisper 是一个端到端的深度学习模型，具有多语言和多任务的能力，可以用于多种语音处理任务，包括语音转文本（transcription...
-
`ModuleNotFoundError: No module named ‘whisper‘`
/home/shgbitai/pythonworkspace/ai-accompany/venv/bin/python /home/shgbitai/pythonworkspace/ai-accompany/main.py Traceback (most...
-
五一 Llama 3 超级课堂 | LMDeploy 高效部署 Llama3 实践笔记
准备环境与模型 环境配置 conda create -n lmdeploy python=3.10 conda activate lmdeploy conda install pytorch==2.1.2 torchvision==0.16.2 torc...
-
Llama 3.1 技术研究报告-2
3.3 基础设施、扩展性和效率 我们描述了⽀持Llama 3 405B⼤规模预训练的硬件和基础设施，并讨论了⼏项优化措施，这些措施提⾼了训练效率。 3.3.1 训练基础设施 Llama 1和2模型在Meta的AI研究超级集群（Lee和Sengup...
-
【Datawhale X 魔搭AI夏令营】AIGC方向 Task 1+2
目录 写在前面 Task 1 赛题解读——可图Kolors-LoRA风格故事挑战赛 文生图 文生图基础知识 提示词 LoRA ComfyUI 参考图控制 Task 2 前沿探索：了解AI生图技术的能力和局限 Deepfake 必要...
-
项目包括whisper、pytorch、cuda、cudnn、chocolatey、ffmpeg、tkinterdnd2、tkinter、os、conda
项目包括whisper、pytorch、cuda、cudnn、chocolatey、ffmpeg、tkinterdnd2、tkinter、os、conda 希望将软件包分发给没有python，也没有打开cmd的能力的人使用。 安装chocolatey等...
-
AIGC时代算法工程师的面试秘籍（第二十一式2024.8.19-9.1） |【三年面试五年模拟】
写在前面 【三年面试五年模拟】旨在整理&挖掘AI算法工程师在实习/校招/社招时所需的干货知识点与面试经验，力求让读者在获得心仪offer的同时，增强技术基本面。也欢迎大家提出宝贵的优化建议，一起交流学习? 欢迎大家关注Rock...
-
【排错记录】在Ubuntu上部署stable diffusion（非webui）
背景 辅助做一个实验，前置条件是先能够使用stable diffusion进行输出图像，因此有了这个小任务。 过程 在Ubuntu上仿照Stable Diffusion 跑通总结_sd-v1-4.ckpt 下载-CSDN博客的过程想要运行stable...
-
stable-diffusion-xl_pytorch生成高质量的图像的AIGC模型
stable-diffusion-xl_pytorch 论文 SDXL: Improving Latent Diffusion Models for High-Resolution Image Synthesis https://arxiv.org/...
-
Llama模型家族之拒绝抽样(Rejection Sampling)（五）蒙特卡罗算法在拒绝抽样中：均匀分布与样本接受标准
LlaMA 3 系列博客 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一） 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二） 基于 LlaMA 3 + LangGraph 在w...
-
LLaMA Cog 模板：轻松构建和部署大型语言模型
LLaMA Cog 模板：轻松构建和部署大型语言模型 cog-llama-templateLLaMA Cog template项目地址:https://gitcode.com/gh_mirrors/co/cog-llama-template 项目介...
-
4060显卡+LLaMA-Factory微调LLM——（四）Web UI
本地配置 系统：win10 **硬件：**i5-12490f+RTX4060 前置准备 目前本地微调大模型最常用的就是LLaMA-Factory，既可以用指令微调，又有Web UI，方便的很 github：https://github.com/...
-
详聊LLaMa技术细节：LLaMA大模型是如何炼成的？
本文介绍来自 Meta AI 的 LLaMa 模型，类似于 OPT，也是一种完全开源的大语言模型。LLaMa 的参数量级从 7B 到 65B 大小不等，是在数万亿个 token 上面训练得到。值得一提的是，LLaMa 虽然只使用公共的数据集，依然取得了强悍...
-
【HuggingFace Transformers】LlamaModel源码解析
LlamaModel源码解析 1. LlamaModel 介绍 2. LlamaModel类 源码解析 3. 4维因果注意力掩码生成 1. LlamaModel 介绍 LlamaModel 是一个基于 Transformer 架构...
-
构建自己的文生图工具：Python + Stable Diffusion + CUDA
构建自己的文生图工具：Python + Stable Diffusion + CUDA 前言 概述 环境搭建 安装PyTorch 安装Stable Diffusion 编写Python代码 结论 结语 前言 在这个数字化和人工...
-
PyTorch-LLaMA 项目使用教程
PyTorch-LLaMA 项目使用教程 pytorch-llama LLaMA 2 implemented from scratch in PyTorch 项目地址: https://gitcode.com/gh_mirrors/py/pyt...
-
Llama 3 五一超级课堂中实践llama3的部署，微调，量化优化部署学习总结：第三部分LMDeploy部署llama3-8b模型及量化策略
本次学习分享基于Llama3-Tutorial（Llama 3 超级课堂）分享，git地址如下 GitHub - SmartFlowAI/Llama3-Tutorial: Llama3-Tutorial（XTuner、LMDeploy、OpenCompa...
-
LongLLaMA 项目使用教程
LongLLaMA 项目使用教程 long_llamaLongLLaMA is a large language model capable of handling long contexts. It is based on OpenLLaMA and...
-
VAE（Variational auto-encoder）
1.VAE（Variational auto-encoder） 笔记来源及推荐文章： 1.变分自编码器（一）：原来是这么一回事 2.变分自编码器（二）：从贝叶斯观点出发 3.变分自编码器（三）：这样做为什么能成？ 4.变分自编码器（四）：一步到位的聚类...
-
Datawhale X 魔塔 AI夏令营 AIGC方向Task2
小白学习笔记，如有错误请各位大佬指正 一、AI生图背景介绍 1.AICG领域介绍 AIGC（Artificial Intelligence Generated Content）领域涉及使用人工智能技术生成各种类型的内容，包括文本、图像、...
-
Stable Diffusion 项目常见问题解决方案
Stable Diffusion 项目常见问题解决方案 stablediffusion High-Resolution Image Synthesis with Latent Diffusion Models 项目地址: https://git...
-
Datawhale X 魔搭 AI夏令营 - AIGC文生图方向 task03笔记
系列文章目录 Datawhale AI夏令营第四期魔搭- AIGC文生图方向 task01笔记-CSDN博客 Datawhale X 魔搭 AI夏令营 - AIGC文生图方向 task02笔记-CSDN博客 目录 前言 一、comf...
-
LLaMA-QRLHF 项目使用教程
LLaMA-QRLHF 项目使用教程 llama-qrlhf Implementation of the Llama architecture with RLHF + Q-learning 项目地址: https://gitcode.com/g...