搭建参考教程:
1,【新修正】手把手教你在linux中部署stable-diffusion-webui N卡A卡显卡可用
2,手把手教你在linux中手动编译并安装xformers
(以上文章作者为B站up主:青空朝颜モー)
本机电脑显卡型号:2080Ti
CUDA版本:11.5
问题描述
在点击生成图片时发生以下报错:
RuntimeError: CUDA error
: CUBLAS_STATUS_INVALID_VALUE
when calling cublasGemmStridedBatchedExFix
( handle, opa, opb, m, n, k, (void*)(&falpha), a, CUDA_R_16F, lda, stridea, b, CUDA_R_16F, ldb, strideb, (void*)(&fbeta), c, CUDA_R_16F, ldc, stridec, num_batches, CUDA_R_32F, CUBLAS_GEMM_DEFAULT_TENSOR_OP)
问题分析
stable-diffusion最佳torch版本为1.13.1(时间:2/2023)。但是该版本torch支持的CUDA版本为11.6及以上(详见pytorch官网),因此会导致各种奇奇怪怪的CUDA错误产生。
但是由于升级显卡驱动与CUDA版本过于麻烦,很可能会导致电脑中原有项目出现不可使用的状况,因此慎重将已有较多项目的旧电脑升级到更高的CUDA版本。
不完美解决方案(凑合能用)
一句话版:安装1.12的torch配11.3的CUDA
因为“电脑的CUDA版本向下兼容pytorch所需求的CUDA版本。比如我的CUDA是11.5,那pytorch我勾选11.3就可以。nvidia-smi的cuda版本大于等于你要安装的cuda版本就不会出问题,且你的实际cuda版本以nvcc为准。”(以上引用知乎作者:椿楸 的文章CUDA的正确安装/升级/重装/使用方式)
因此,选择去pytorch官网安装支持CUDA11.5版本的torch,如下图所示。详细 安装/重装/卸载 教程可参考上述知乎专栏或者自己另行搜索。安装指令如下,可直接复制使用:
pip install torch==1.12.1+cu113 torchvision==0.13.1+cu113 torchaudio==0.12.1 --extra-index-url https://download.pytorch.org/whl/cu113
不完美解决方案带来的问题!!!
需要重新安装xformers,因为之前安装的时候torch版本为1.13.1。 stable_diffusion_webui项目可能会有一些奇奇怪怪的bug,因为开发者用的是1.13.1版本开发。(运行的时候会报详细的提示信息,也可通过在参数中加入–skip-version-check进行跳过)都看到这了,点个赞再划走吧