-
DefaultCPUAllocator: not enough memory: you tried to allocate
DefaultCPUAllocator: not enough memory: you tried to allocate XXX 问题:系统内存不足。 解决方案(1):重启电脑/使用任务管理器关闭多余应用释放系统内存(临时方案) 任务管理器启用方式:...
-
到底什么是算力?
算力的字面意思,大家都懂,就是计算能力(Computing Power)。 所谓“计算”,我们可以有多种定义。 狭义的定义,是对数学问题进行运算的过程,例如完成“1+1=?”的过程,或者对“哥德巴赫猜想”进行推理的过程。 广义的定义,则更为宏观,凡是对信...
-
AMD安装Stable-Diffusion步骤笔记
AMD安装Stable-Diffusion步骤2023.6.4 使用平台 安装步骤 1.安装 Python 3.10.6 2.安装 git 3.获取Stable-Diffusion 4.运行webui-user.bat 访问使用...
-
足够惊艳,使用Alpaca-Lora基于LLaMA(7B)二十分钟完成微调,效果比肩斯坦福羊驼
之前尝试了从0到1复现斯坦福羊驼(Stanford Alpaca 7B),Stanford Alpaca 是在 LLaMA 整个模型上微调,即对预训练模型中的所有参数都进行微调(full fine-tuning)。但该方法对于硬件成本要求仍然偏高且训练低效...
-
新技术有效加速大规模人工智能模型的处理性能
麻省理工学院和英伟达的研究人员开发了两种技术来加速稀疏张量的处理,稀疏张量是一种用于高性能计算任务的数据结构。这些技术可以显著提高系统的性能和能效,例如驱动生成式人工智能的大规模机器学习模型。 张量(Tensors)是机器学习模型使用的数据结构。这两种...
-
解释:生成式 AI的工作机制与差异
像 ChatGPT 这样强大的生成式 AI 系统是如何工作的,它们与其他类型的人工智能有何不同? 快速浏览一下头条新闻,就会发现生成式人工智能如今无处不在。事实上,其中一些标题实际上可能是由生成式人工智能撰写的,例如 OpenAI 的 ChatGPT,...
-
百度搜索智能化算力调控分配方法
作者 | 泰来 导读 随着近年深度学习技术的发展,搜索算法复杂度不断上升,算力供给需求出现了爆发式的增长。伴随着AI技术逐步走到深水区,算法红利在逐步消失,边际效应日益显著,算力效能的提升尤为重要,同时随着宏观经济影响,大规模的算力需求供给也遭...
-
基于RWKV可在本地运行的AI小镇开源
AI Town RWKV Proxy是一个允许用户在本地通过RWKV代理来运行大型AI城市的项目。该项目基于RWKV,这是一个线性变换器,没有评估妥协,推理成本较低(10-100倍),足够轻便,可以在16GB RAM和任何现代CPU上运行。用户可以选择在不...
-
如何测试生成式人工智能(AIGC)
简介:在人工智能日趋普及的今天,生成式人工智能(AIGC)已经成为不可忽视的一个分支。从自动化生成新闻、编写代码到图像和音频生成,AIGC几乎无处不在。但如何确保这些生成的内容达到预期标准、安全可靠,同时又具有高度的可用性呢?这是一个值得细细思考的问题。...
-
可以白嫖的语音识别开源项目whisper的搭建详细过程 | 如何在Linux中搭建OpenAI开源的语音识别项目Whisper
原文来自我个人的博客。 1、前提条件 服务器为GPU服务器。点击这里跳转到我使用的GPU服务器。我搭建 whisper 选用的是 NVIDIA A 100显卡,4GB显存。 Python版本要在3.8~3.11之间。 输入下面命令查看使用的Pyt...
-
最详细的Ubuntu服务器搭建Stable-Diffusion教程(无显卡,仅用CPU)
1. 首先安装基本工具 # 安装python环境 sudo apt install wget git 若已经安装过请忽略 2. 安装miniconda(也可以自己下载python) 下载最新的安装包 wget https://repo.an...
-
在win10电脑上搭建python环境下的本地AI绘画工具Stable Diffusion
随着Chatgpt的横空出世,人工智能受到了前所没有的热棒,AI绘画也进入大众的视野。 Stable Diffusion是一种可以部署在本地环境上运行的人工智能绘画工具,图形运算主要用到的是显卡的GPU性能,因此最好有至少4G显存的显卡。 Stable...
-
最强大模型训练芯片H200发布!141G大内存,AI推理最高提升90%,还兼容H100
英伟达老黄,带着新一代GPU芯片H200再次炸场。 官网毫不客气就直说了,“世界最强GPU,专为AI和超算打造”。 图片 听说所有AI公司都抱怨内存不够? 这回直接141GB大内存,与H100的80GB相比直接提升76%。 作为首款搭载HBM3e内存的G...
-
Stable diffusion报Torch is not able to use GPU; add --skip-torch-cuda-test to COMMANDLINE_ARGS variab
Stable diffusion 报 Torch is not able to use GPU; add --skip-torch-cuda-test to COMMANDLINE_ARGS variable to disable this check 错...
-
Stable Diffusion 本地部署教程,懒人一键安装包!!!
首页 AI Stable Diffusion 本地部署教程,懒人一键安装包,有手就会安装! Stable Diffusion 是一款开源的 AI 文生图扩散模型! 目前他和Midjourney 都被称为最好用的AI绘 画工具。关注AI绘画的小伙伴在网上看...
-
Stable Diffusion +EbSynth应用实践和经验分享
Ebsynth应用 1.安装ffmpeg 2.安装pip install transparent-background,下载模型https://www.mediafire.com/file/gjvux7ys4to9b4v/latest.pth/file 放...
-
Windows安装Stable Diffusion ComfyUI及问题解决记录(注意不是Stable Diffusion WebUI)
本文是Stable Diffusion ComfyUI的安装介绍,并非Stable Diffusion WebUI。该软件使用了流程管理,目前来看更适合专业的设计师,虽然已能实现所有原生的功能,但软件本身目前仍处于初级阶段,还有很多地方需要改进,比如中文版...
-
老黄深夜炸场,世界最强AI芯片H200震撼发布!性能飙升90%,Llama 2推理速度翻倍,大批超算中心来袭
英伟达的节奏,越来越可怕了。 就在刚刚,老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200! 较前任霸主H100,H200的性能直接提升了60%到90%。 不仅如此,这两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的企业,可以无缝更...
-
【Mac M1】安装stable diffusion webui教程及问题集锦
这里写自定义目录标题 我的配置MacBookPro 14 M1 安装视频教程可参考如下链接:主播讲的挺清楚 安装步骤: 第一步:安装homebrew 第二步:安装pytorch 第三步:安装stable diffusion webui 第...
-
Stable-Diffusion部署web服务到公网,实现个人电脑远程访问
在个人电脑上部署好了了Stable-Diffusion,用了一段时间后发现推理速度太慢。于是就想到部署服务器上使用,但这样有一个问题是每次使用web服务都得连远程桌面去控制,非常不方便,所以想能不能把Stable_Diffusion的web界面搬到公网上,...
-
如何以CPU方式启动Stable Diffusion WebUI?
默认情况下Stable Diffusion WebUI采用GPU模式运行,但是稍微运行起来就知道至少需要4G的显存,2G显存虽然能够通过带--lowvram运行起来,但是能够炼出来的图基本都是512x512的,不能够炼大图,如果你刚好和我一样家境贫寒,没钱...
-
Stable Diffusion - 扩展 Roop 换脸 (Face Swapping) 插件的配置与使用
欢迎关注我的CSDN:https://spike.blog.csdn.net/ 本文地址:https://spike.blog.csdn.net/article/details/131856141 官网:GitHub - roop,参考论文:Ro...
-
whisper报错:UserWarning: FP16 is not supported on CPU; using FP32 instead
报错: PS D:\> whisper.exe .\dz.wav --language en --model medium C:\xxPython310\lib\site-packages\whisper\transcribe.py:114: Us...
-
Stable Diffusion云端部署流程与注意点
前言 在今天的大数据时代,AI绘图是企业必备的重要工具之一。而Stable Diffusion作为一款部署的AI绘图,得到了很多企业和团队的认可。在使用Stable Diffusion的过程中,云部署是一个非常重要的话题,本文将详细介绍Stable Di...
-
Stable Diffusion 本地部署
资源下载地址 Git: https://git-scm.com/download CUDA: https://developer.nvidia.com/cuda-toolkit-archive Python3.10.6: https://www...
-
Mac版 stable diffusion点生成没反应(M2)
报错信息: RuntimeError: "upsample_nearest2d_channels_last" not implemented for 'Half' 查阅资料后发现有两种方法: 1.打开webui-macos-env.sh文件进行如下更...
-
Stable Diffusion超详细教程!从0-1入门到进阶
一、本地部署 Stable Diffusion 前言 目前市面上比较权威,并能用于工作中的AI绘画软件其实就两款。一个叫Midjourney(简称MJ),另一个叫Stable-Diffusion(简称SD)。MJ需要付费使用,而SD开源免费,但是上...
-
【AIGC】BaiChuan7B开源大模型介绍、部署以及创建接口服务
模型介绍 baichuan-7B是由百川智能开发的一个开源的大规模预训练模型。基于Transformer结构,在大约1.2万亿tokens上训练的70亿参数模型,支持中英双语,上下文窗口长度为4096。在标准的中文和英文权威benchmark(C-EV...
-
Meta 推出的 LLaMA 大语言模型部署教程
Facebo推出的LLaMA模型 简介: LLaMA(Lager Language Model From Meta),这是一个从7B到65B参数的基础语言模型的集合。它在数万亿的文本tokens上训练的模型,并表明在不求助于专有和不可访问的数据集,而仅...
-
用 AI 生成漂亮小姐姐(一)——Stable Diffusion 小白搭建教程
最近 AIGC、ChatGPT 等话题持续发酵,热门程度不亚于之前的 “元宇宙”。抖音、小红书到处都是机器对话、AI 绘图的视频。我看见别人生成的漂亮小姐姐图片眼馋得不行,终于按捺不住自己的好奇心,也尝试一下搭建。本文只是简单记录一下搭建过程。 △...
-
大语言模型之十五-预训练和监督微调中文LLama-2
这篇博客是继《大语言模型之十二 SentencePiece扩充LLama2中文词汇》、《大语言模型之十三 LLama2中文推理》和《大语言模型之十四-PEFT的LoRA》 前面博客演示了中文词汇的扩充以及给予LoRA方法的预训练模型参数合并,并没有给出Lo...
-
【个人笔记本】本地化部署详细流程 LLaMA中文模型:Chinese-LLaMA-Alpaca-2
不推荐小白,环境配置比较复杂 全部流程 下载原始模型:Chinese-LLaMA-Alpaca-2 linux部署llamacpp环境 使用llamacpp将Chinese-LLaMA-Alpaca-2模型转换为gguf模型 windows部署...
-
AUTOMATIC1111/stable-diffusion-webui安装教程
github项目地址:AUTOMATIC1111/stable-diffusion-webui 前提: git已经安装(这个很简单,可以去其他教程看) 安装python 3.10.9,这里稍微说一下,用Anaconda或者python官网的环境都是...
-
Stable Diffusion+ControlNet+Lora 指导AI+艺术设计的WebUI全流程使用教程
目录 一. 背景知识 1.1 Stable Diffusion背景知识 1.1.1 安装stable-diffusion-webui 1.2 ControlNet 背景知识 二. 使用方法 2.1 环境配置 2.2 运行WebUI 三....
-
【黄啊码】教你免费体验Stable Diffusion,不用再辛苦爬梯子了
大家好,距离上一次发表csdn已经好几个月了,中间因为太忙,所以无暇顾及,今天就来教大家最近比较火的StableDifussion,记住红色圈圈的字【免费】 最近AI大火,但鉴于Midjourney实在买不起,买了还得爬梯子,真费劲,所以很多选择了免...
-
AI绘画Stable diffusion保姆级教程,看这一篇就够了「安装-配置-画图」
随着chat gpt爆火之后,越来越多的人开始关注人工智能,人工智能相关的其他应用如AI绘画,也再次得到人们的关注。AI绘画的确很上头,最近几天小编也研究一下,这里把研究的过程以及中间遇到的问题整理一下,我这里遇到的问题,相信新入门的小白也会遇到,希望本文...
-
Mac安装Stable Diffusion教程【超详细教程】附带安装包
Mac安装Stable Diffusion教程 本机配置 Mac安装Stable Diffusion教程 配带官方说明 重要注意事项 安装所需文件已整理安装地址 自动安装 新安装: 自动安装 现有安装: 下载稳定扩散模型 故障排除 Web...
-
使用LoRA对大语言模型LLaMA做Fine-tune
使用LoRA对大语言模型LLaMA做Fine-tune 前言 下载 配置环境 模型的训练 Fine-tune 模型的使用 Inference 参考 问题汇总 前言 目前有大量对LLM(大语言模型)做Fine-tune的方式,不...
-
语音识别模型whisper的参数说明
一、whisper简介: Whisper是一种通用的语音识别模型。它是在各种音频的大型数据集上训练的,也是一个多任务模型,可以执行多语言语音识别、语音翻译和语言识别。 二、whisper的参数 1、-h, --help 查看whisper的参数...
-
M1芯片Mac book pro部署stable diffusion模型
使用的电脑配置: 本文中,我的实验环境是 Apple M1CPU 的 MacBook Pro,机器内存容量为 16GB。同样还能够运行本文的设备包含: 2022 年生产的MacBook Air (M2 、13寸的 MacBook Pro (M2 、M...
-
几行代码教你轻松完成超大模型推理:LLaMA-30B+TITAN RTX*4+accelerate
是不是苦于没有ChatGPT的API key或者免费的token而无法愉快地和它玩耍?想不想在有限的计算资源上部署大模型并调戏大模型??想不想解锁大模型的除了对话之外的其它功能???几行代码教你搞定如何在有限的计算资源下部署超大模型并实现推理。 准备...
-
百度搜索深度学习模型业务及优化实践
作者 | Xin 导读 百度搜索架构部模型架构组,致力于将最新的人工智能技术以更低的成本被百度数亿用户体验到。这个过程中会面临非常多的系统、工程层面的问题,甚至在深度学习模型领域,我们看到越来越多的工作并不拘泥于工程本身。 本文主要分享模...
-
AI 绘画Stable Diffusion 研究(一)sd整合包v4.2 版本安装说明
部署包作者:秋葉aaaki 免责声明: 本安装包及启动器免费提供 无任何盈利目的 大家好,我是风雨无阻。众所周知,StableDiffusion 是非常强大的AI绘图工具,需要详细了解StableDiffusion的朋友,可查看我之前的这篇文章:...
-
昇腾CANN DVPP硬件加速训练数据预处理,友好解决Host CPU预处理瓶
本文分享自华为云社区《昇腾CANN 7.0 黑科技:DVPP硬件加速训练数据预处理,友好解决Host CPU预处理瓶颈》,作者: 昇腾CANN 。 随着人工智能的快速发展,越来越多的应用场景需要使用机器学习和深度学习模型。AI网络模型的训练一般分成...
-
Stable Diffusion WebUI内存不够爆CUDA Out of memory怎么办?
在我们运行SD的时候,我们经常会爆CUDA Out of memory。 我们应该怎么办呢? 这是因为我们的显存或者内存不够了。 如果你是用cpu来跑图的则表示内存不够,这个时候就需要换个大点的内存了。 如果你是用gpu来跑图的就说明你显存不够用咯...
-
Intel研究人员提出新AI方法,更高效地在CPU上部署LLM
大型语言模型(LLM)因其在文本生成、语言理解和文本摘要等各种任务中的卓越性能而备受瞩目,但它们庞大的模型参数却需要大量内存和专用硬件,这使得部署这些模型变得相当具有挑战性。 为了降低推断所需的计算功率,研究人员通常采用权重量化等方法,即减少人工神经网络的...
-
llama.cpp一种在本地CPU上部署的量化模型(超低配推理llama)
0x00 背景 前不久,Meta前脚发布完开源大语言模型LLaMA, 随后就被网友“泄漏”,直接放了一个磁力链接下载链接。 然而那些手头没有顶级显卡的朋友们,就只能看看而已了 但是 Georgi Gerganov 开源了一个项目llama.cpp...
-
[Python小项目] 从桌面壁纸到AI绘画
从桌面壁纸到AI绘画 一、前言 1.1 确认问题 由于生活和工作需要,小编要长时间的使用电脑,小编又懒,一个主题用半年的那种,所以桌面壁纸也是处于常年不更换的状态。即时改变主题也是在微软自带的壁纸中选择,而这些自带的壁纸早就已经看腻了。于是,问题...
-
《生而为舔狗,我幸福似了捏》之stable diffusion傻瓜式教学
相信大家最近都已经被AI绘画刷屏了,但是看着大家都在搞这个东西,自己也想玩,又没有编程基础咋办,没关系,本篇博客将带大家无痛制作一个属于自己的“AI女友”,在教学开始之前,首先要告诉大家的是,这个扩散模型本身其实还是挺大的,不至于什么军工级主板都能玩的,对...
-
基于容器平台 ACK 快速搭建 Stable Diffusion
作者:子白 本文介绍如何在阿里云容器平台 ACK 上快速搭建一套可对外提供服务的 Stable Diffusion。 CPU 版本 前提条件 已创建 Kubernetes 托管版集群。具体操作,请参见创建 Kubernetes 托管版集群[1]...