-
腾讯云部署清华大学ChatGLM-6B实战
简介（来自官方） ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只...
-
如何以CPU方式启动Stable Diffusion WebUI?
默认情况下Stable Diffusion WebUI采用GPU模式运行，但是稍微运行起来就知道至少需要4G的显存，2G显存虽然能够通过带--lowvram运行起来，但是能够炼出来的图基本都是512x512的，不能够炼大图，如果你刚好和我一样家境贫寒，没钱...
-
[大模型] 搭建llama主流大模型训练环境
关键词：大模型，LLAMA，CUDA，模型训练 1. 基础环境 OS： Ubuntu 18.04GPU： 4*A100(40G (单机4卡A100 40G CUDA：11.7cuDNN： 8.4.1 (需要登录官网后下载 nccl： 2.12.12...
-
详解超强ResNet变体NFNet：抛弃归一化后，性能却达到了最强！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 从上古时期一直到今天，Batch Norm (BN 一直都是视觉骨干架构里面很重要的一个环节。BN 使得研究人员可以训练更深的网络，并在训练集和测试集上实现更高的精度。Batch Norm 还可以平...
-
为什么说百度下个月推出文心一言会被ChatGPT完全碾压
作者，姚远： Oracle ACE（Oracle和MySQL数据库方向） 华为云MVP 《MySQL 8.0运维与优化》的作者 中国唯一一位Oracle高可用大师 拥有包括 Oracle 10g和12c OCM在内的20+数据库相关认证。 曾任IBM公...
-
AI图像生成模型LCMs: 四个步骤就能快速生成高质量图像的新方法
在最新的AI模型和研究领域，一种名为Latent Consistency Models（LCMs）的新技术正迅速推动文本到图像人工智能的发展。与传统的Latent Diffusion Models(LDMs 相比，LCMs在生成详细且富有创意的图像方面同样...
-
whisper报错：UserWarning: FP16 is not supported on CPU； using FP32 instead
报错： PS D:\> whisper.exe .\dz.wav --language en --model medium C:\xxPython310\lib\site-packages\whisper\transcribe.py:114: Us...
-
Stable Diffusion人工智能图像合成
AI 图像生成大有来头。新发布的开源图像合成模型称为Stable Diffusion，它允许任何拥有 PC 和像样的 GPU 的人想象出他们能想象到的几乎任何视觉现实。它几乎可以模仿任何视觉风格，如果你给它输入一个描述性的短语，结果就会像魔术一样出现在你的...
-
基于Amazon SageMaker平台部署Stable Diffusion模型实现——图片识别
序言： 当谈到机器学习和人工智能的开发和部署时，Amazon SageMaker是一个非常强大和全面的平台。作为一项托管式的机器学习服务，Amazon SageMaker提供了一套完整的工具和功能，帮助开发者轻松构建、训练和部署机器学习模型。 首先，让...
-
Stable Diffusion 本地部署
资源下载地址 Git: https://git-scm.com/download CUDA: https://developer.nvidia.com/cuda-toolkit-archive Python3.10.6: https://www...
-
Stable Diffusion超详细教程！从0-1入门到进阶
一、本地部署 Stable Diffusion 前言 目前市面上比较权威，并能用于工作中的AI绘画软件其实就两款。一个叫Midjourney（简称MJ），另一个叫Stable-Diffusion（简称SD）。MJ需要付费使用，而SD开源免费，但是上...
-
基于LoRA进行Stable Diffusion的微调
文章目录 基于LoRA进行Stable Diffusion的微调 数据集 模型下载 环境配置 微调过程 推理 WebUI部署 基于LoRA进行Stable Diffusion的微调 数据集 本次微调使用的数据集为： Lam...
-
【AIGC】BaiChuan7B开源大模型介绍、部署以及创建接口服务
模型介绍 baichuan-7B是由百川智能开发的一个开源的大规模预训练模型。基于Transformer结构，在大约1.2万亿tokens上训练的70亿参数模型，支持中英双语，上下文窗口长度为4096。在标准的中文和英文权威benchmark（C-EV...
-
AIGC 爆火，浪潮信息要做大模型的数据存储大底座
AIGC 在 2023 年爆火，各类大模型层出不穷，参数动辄达到千亿数量级。这些背后，数据的类型和形式也走向复杂多样。例如大模型会采用到我们真实物理世界中的文字、视觉、音频、3D、雷达、多谱等复杂多样的不同模态信号和数据，数据则又存在结构化、半结构化、非结...
-
Stable Diffusion之Scheduler模块比对生成结果
项目场景： 替换Stable Diffusion的Scheduler模块并对结果进行分析 diffusers包含多个用于扩散过程的预置scheduler function，用于接收经过训练的模型的输出，扩散过程正在迭代的样本，以及返回去噪样本的...
-
用 AI 生成漂亮小姐姐（一）——Stable Diffusion 小白搭建教程
最近 AIGC、ChatGPT 等话题持续发酵，热门程度不亚于之前的 “元宇宙”。抖音、小红书到处都是机器对话、AI 绘图的视频。我看见别人生成的漂亮小姐姐图片眼馋得不行，终于按捺不住自己的好奇心，也尝试一下搭建。本文只是简单记录一下搭建过程。 △...
-
【AI 绘图】Stable Diffusion WebUI 本地安装教程（Windows，兼容 NVIDIA、AMD 显卡）
文章目录 硬性要求 Stable Diffusion 简介 Stable Diffusion WebUI 简介 1. 安装 Python 3.10.6（较新版本的 Python 不支持 torch） 2. 安装 Git 3. 下载 stable...
-
大语言模型之十五-预训练和监督微调中文LLama-2
这篇博客是继《大语言模型之十二 SentencePiece扩充LLama2中文词汇》、《大语言模型之十三 LLama2中文推理》和《大语言模型之十四-PEFT的LoRA》 前面博客演示了中文词汇的扩充以及给予LoRA方法的预训练模型参数合并，并没有给出Lo...
-
【个人笔记本】本地化部署详细流程 LLaMA中文模型：Chinese-LLaMA-Alpaca-2
不推荐小白，环境配置比较复杂 全部流程 下载原始模型：Chinese-LLaMA-Alpaca-2 linux部署llamacpp环境 使用llamacpp将Chinese-LLaMA-Alpaca-2模型转换为gguf模型 windows部署...
-
Stable Diffusion 开源模型 SDXL 1.0 发布
关于 SDXL 模型，之前写过两篇： Stable Diffusion即将发布全新版本 Stable Diffusion XL 带来哪些新东西？ 一晃四个月的时间过去了，Stability AI 团队终于发布了 SDXL 1.0。当然在...
-
Stable Diffusion+ControlNet+Lora 指导AI+艺术设计的WebUI全流程使用教程
目录 一. 背景知识 1.1 Stable Diffusion背景知识 1.1.1 安装stable-diffusion-webui 1.2 ControlNet 背景知识 二. 使用方法 2.1 环境配置 2.2 运行WebUI 三....
-
【黄啊码】教你免费体验Stable Diffusion，不用再辛苦爬梯子了
大家好，距离上一次发表csdn已经好几个月了，中间因为太忙，所以无暇顾及，今天就来教大家最近比较火的StableDifussion，记住红色圈圈的字【免费】 最近AI大火，但鉴于Midjourney实在买不起，买了还得爬梯子，真费劲，所以很多选择了免...
-
Mac安装Stable Diffusion教程【超详细教程】附带安装包
Mac安装Stable Diffusion教程 本机配置 Mac安装Stable Diffusion教程 配带官方说明 重要注意事项 安装所需文件已整理安装地址 自动安装 新安装： 自动安装 现有安装： 下载稳定扩散模型 故障排除 Web...
-
使用LoRA对大语言模型LLaMA做Fine-tune
使用LoRA对大语言模型LLaMA做Fine-tune 前言 下载 配置环境 模型的训练 Fine-tune 模型的使用 Inference 参考 问题汇总 前言 目前有大量对LLM（大语言模型）做Fine-tune的方式，不...
-
部署Stable diffusion遇到的一个问题解决
前两天自己在服务器上搞了一下stable diffusion，碰到过一个问题，当时搜了半天没找到好的方法，后来我想了下给解决了，觉得还是来记录一下，如果其他人也正巧遇到的话看到这个可以方便解决，当然，是对于linux环境下来说的，不过我觉得windows应...
-
全面对比GPT-3.5与LLaMA 2微调
通用大模型虽好，但通过微调得到一个专属大模型不仅可以提高模型的可操控性、输出格式的可靠性和语气的一致性，还能让用户缩短提示长度，加速API调用，降低成本。 本文作者Sam L'Huillier对GPT-3.5与LLaMA 2的微调进行了基准...
-
LLMs之Code：Code Llama的简介(衍生模型如Phind-CodeLlama/WizardCoder)、安装、使用方法之详细攻略
LLMs之Code：Code Llama的简介(衍生模型如Phind-CodeLlama/WizardCoder 、安装、使用方法之详细攻略 导读：2023年08月25日(北京时间 ，Meta发布了Code Llama，一个可以使用文本提示生成...
-
几行代码教你轻松完成超大模型推理：LLaMA-30B+TITAN RTX*4+accelerate
是不是苦于没有ChatGPT的API key或者免费的token而无法愉快地和它玩耍？想不想在有限的计算资源上部署大模型并调戏大模型？？想不想解锁大模型的除了对话之外的其它功能？？？几行代码教你搞定如何在有限的计算资源下部署超大模型并实现推理。 准备...
-
百度搜索深度学习模型业务及优化实践
作者 | Xin 导读 百度搜索架构部模型架构组，致力于将最新的人工智能技术以更低的成本被百度数亿用户体验到。这个过程中会面临非常多的系统、工程层面的问题，甚至在深度学习模型领域，我们看到越来越多的工作并不拘泥于工程本身。 本文主要分享模...
-
老黄H100再破纪录，4分钟训完GPT-3！全新「特供版」H20、L20和L2曝光，性能史诗级缩水
H100再次在MLPerf中刷新了记录! 英伟达超算NVIDIA Eos在GPT-3模型的基准测试中，只用了3.9分钟就完成了训练。 这比6月份的刷新记录的成绩——10.9分钟，提升了近3倍。 Eos使用了多达10，752个H100和NVIDIA Quan...
-
昇腾CANN DVPP硬件加速训练数据预处理，友好解决Host CPU预处理瓶
本文分享自华为云社区《昇腾CANN 7.0 黑科技：DVPP硬件加速训练数据预处理，友好解决Host CPU预处理瓶颈》，作者： 昇腾CANN 。 随着人工智能的快速发展，越来越多的应用场景需要使用机器学习和深度学习模型。AI网络模型的训练一般分成...
-
Stable Diffusion WebUI内存不够爆CUDA Out of memory怎么办？
在我们运行SD的时候，我们经常会爆CUDA Out of memory。 我们应该怎么办呢？ 这是因为我们的显存或者内存不够了。 如果你是用cpu来跑图的则表示内存不够，这个时候就需要换个大点的内存了。 如果你是用gpu来跑图的就说明你显存不够用咯...
-
AI专业教您保姆级在暗影精灵8Windows11上本地部署实现AI绘画：Stable Diffusion（万字教程，多图预警）
目录 一、Stable Diffusion介绍 二、Stable Diffusion环境搭建 1.Anaconda下载与安装 2.Pycharm（IDE）下载与安装 3.CUDA、CuDNN下载与安装 三、Stable Diffusion...
-
Intel研究人员提出新AI方法，更高效地在CPU上部署LLM
大型语言模型（LLM）因其在文本生成、语言理解和文本摘要等各种任务中的卓越性能而备受瞩目，但它们庞大的模型参数却需要大量内存和专用硬件，这使得部署这些模型变得相当具有挑战性。 为了降低推断所需的计算功率，研究人员通常采用权重量化等方法，即减少人工神经网络的...
-
微软推出 FP8 混合精度训练框架：比 BF16 快 64%，内存占用少 42%
11 月 10 日消息，大语言模型（LLM）快速崛起，在语言生成和理解方面表现出光明的前景，影响超越了语言领域，延伸到逻辑、数学、物理学等领域。 不过想要解锁这些“非凡能量”，需要付出高额的代价，例如训练 540B 模型，需要 Project PaL...
-
【AI作画】使用DiffusionBee with stable-diffusion在mac M1平台玩AI作画
DiffusionBee是一个完全免费、离线的工具。它简洁易用，你只需输入一些标签或文本描述，它就能生成艺术图像。 DiffusionBee下载地址 运行DiffusionBee的硬性要求：MacOS系统版本必须在12.3及以上 DB...
-
llama.cpp一种在本地CPU上部署的量化模型（超低配推理llama）
0x00 背景 前不久，Meta前脚发布完开源大语言模型LLaMA， 随后就被网友“泄漏”，直接放了一个磁力链接下载链接。 然而那些手头没有顶级显卡的朋友们，就只能看看而已了 但是 Georgi Gerganov 开源了一个项目llama.cpp...
-
基于容器平台 ACK 快速搭建 Stable Diffusion
作者：子白 本文介绍如何在阿里云容器平台 ACK 上快速搭建一套可对外提供服务的 Stable Diffusion。 CPU 版本 前提条件 已创建 Kubernetes 托管版集群。具体操作，请参见创建 Kubernetes 托管版集群[1]...
-
Llama大模型运行的消费级硬件要求【CPU|GPU|RAM|SSD】
大型语言模型 (LLM 是强大的工具，可以为各种任务和领域生成自然语言文本。 最先进的LLM之一是 LLaMA（大型语言模型 Meta AI），这是由 Facebook 的研究部门 Meta AI 开发的一个包含 650 亿个参数的模型 要在家运行 L...
-
LoRa模型训练教程（炼丹，Stable Diffusion）
1. lora介绍（Low Rank Adaption） 何为LoRA？LoRA并不是扩散模型专有的技术，而是从隔壁语言模型（LLM）迁移过来的，旨在解决避免将整个模型参数拷贝下来才能对模型进行调校的问题。因为大型语言模型的参数量过于恐怖，比如最近新出...
-
使用 PAI-Blade 优化 Stable Diffusion 推理流程
背景 AIGC是人工智能计算领域里发展迅速的重要业务。Stable Diffusion 是其中最热门的开源模型，受到广泛关注。然而，随着应用场景不断扩大，Stable Diffusion所面临的推理时延和计算成本问题也越来越突出。 简介 PAI-Bl...
-
解决stable diffusion webui1.6 wd1.4 tagger加载失败的问题
由于webui源码的变化，需要修改两个地方的import 1.tagger/ui.py # 第十行 # from webui import wrap_gradio_gpu_call # 原代码 from modules.call_queue imp...
-
Windows10上使用llama-recipes(LoRA)来对llama-2-7b做fine-tune
刚刚在Windows10上搭建环境来对llama2做finetune，里面坑还是挺多的，这里把印象中的坑整理了一下以作备忘。 llama-recipes是meta的开源项目，Github地址为：GitHub - facebookresearch/llam...
-
AI视野：ChatGPT和API发生重大中断；GPTs分阶段推出计划延迟；中国第二批11个大模型备案获批；阿里将开源720亿参数大模型
???AI新鲜事 ChatGPT和API发生重大中断! 11月9日凌晨，OpenAI在官网发布，ChatGPT和API发生重大中断，导致全球所有用户无法正常使用，宕机时间超过2小时。OpenAI已经找到问题所在并进行了修复，但仍然不稳定，会继续进行安全监控...
-
【原创】用 VisualGLM 进行AIGC多模识别和内容生成
最近几个月，整个AI行业的LLM（大语言模型）蓬勃发展，除了过去传统的纯文字的多模态能力的视觉语言模型，如 GPT-4，ImageBind等表现令人印象深刻。 ChatGLM-6B是中文用户使用非常舒服的一个开源中文LLM。2023年5月17日，智谱...
-
ChatGPT 挂了一整天了，已经习惯了用大模型的我怎么办
OpenAI 挂了，已经习惯了用大模型的我怎么办 OpenAI 挂了，急，在线等。 你是不是已经习惯了 ChatGPT 的存在？是不是感觉离了 ChatGPT 寸步难行，很难再进行自己的工作？今天 ChatGPT 大面积宕机，服务直到文章发布（下午5点...
-
【AIGC】Baichuan2-13B-Chat模型微调
环境 微调框架：LLaMA-Efficient-Tuning 训练机器：4*RTX3090TI (24G显存 python环境：python3.8, 安装requirements.txt依赖包 一、Lora微调 1、准备数据集 2、训...
-
大模型使用——超算上部署LLAMA-2-70B-Chat
大模型使用——超算上部署LLAMA-2-70B-Chat 前言1、本机为Inspiron 5005，为64位，所用操作系统为Windos 10。超算的操作系统为基于Centos的linux，GPU配置为A100，所使用开发环境为Anaconda。2、...
-
Meta最新模型LLaMA细节与代码详解
Meta最新模型LLaMA细节与代码详解 0. 简介 1. 项目环境依赖 2. 模型细节 2.1 RMS Pre-Norm 2.2 SwiGLU激活函数 2.3 RoPE旋转位置编码 3. 代码解读 3.1 tokenizer 3.2 m...
-
AI监管争议再起，华尔街对它的热情却丝毫未减
美国政府近期发布一项新的AI法规，也让世界再次把目光放到AI的安全疑虑问题上。 对于开发大模型的公司来说，这项法规要求它们向政府提供更多信息，而这可能会减慢新产品和更新的发布速度。这项法规中的许多规定涉及尚未上市的大型基础模型和AI系统的未来发展，这就...