-
LLaMA模型文件 (搬运工)
LLaMA需要进行申请才能获得官方模型权重。 但是申请的审批时间一般都很长。 这里提供现有的huggingface上，第三方上传的一些LLaMA模型文件： LLaMA-7B LLaMA-13B LLaMA-7B-hf LLaMA-13B-hf 这...
-
Stable diffusion安装踩坑(win&Mac&iOS)
今天Apple官方支持了这个库，所以特意下载下来试试看，效果还不错，M芯片在深度学习领域第一次给人惊喜了。https://machinelearning.apple.com/research/stable-diffusion-coreml-apple-si...
-
chatgpt平替，清华chatglm本地化部署教程（aigc大模型风口，校招找工作必备），包含weiui部署，api部署，对话框部署
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。...
-
Stable Diffusion2.0实验室Linux服务器详细运行教程
最近在学习ai共创，在官方网站dreamstdio玩了几次发现需要收费，于是决定部署一个在服务器上。将部署的过程和遇到的问题记录下来供大家参考。 目录 1. 工具准备 2. 下载代码和模型 3. 环境准备 4. 运行代码 1....
-
大语言模型量化方法对比：GPTQ、GGUF、AWQ
在过去的一年里，大型语言模型(llm 有了飞速的发展，在本文中，我们将探讨几种(量化 的方式，除此以外，还会介绍分片及不同的保存和压缩策略。 说明：每次加载LLM示例后，建议清除缓存，以防止出现OutOfMemory错误。 del model, tok...
-
Fooocus：一个简单且功能强大的Stable Diffusion webUI
Stable Diffusion是一个强大的图像生成AI模型，但它通常需要大量调整和提示工程。Fooocus的目标是改变这种状况。 Fooocus的创始人Lvmin Zhang（也是 ControlNet论文的作者）将这个项目描述为对“Stable Di...
-
【NLP】Llama & Alpaca大模型
?大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流? ?个人主页－Sonhhxg_柒的博客_CSDN博客 ? ?欢迎各位→点赞? + 收藏⭐️ + 留言? ?系列专栏 - 机器学习【ML】 自然语言...
-
部署lawyer-llama
Git - Downloading PackageGit - Downloading PackageGit - Downloading Package 下载git，wget需要下载一下 （GNU Wget 1.21.4 for Windows）， Wi...
-
Windows安装Stable Diffusion WebUI及问题解决记录
本文将详细介绍stable diffusion webui的下载、安装及问题解决。 StableDiffusion是2022年发布的深度学习文本到图像生成模型。它主要用于根据文本的描述产生详细图像，尽管它也可以应用于其他任务，如内补绘制、外补绘制，以及在提...
-
使用Google Colab免费部署属于自己的Stable Diffusion模型在线服务
I. 介绍 Stable Diffusion模型（稳定扩散模型） 是一种用于生成式建模的深度学习模型，它使用随机微分方程（SDE）来建模连续时间的动态过程。在图像、声音、文本等各种领域都有广泛的应用。与传统的生成式模型相比，Stable Diffusi...
-
GPTs商店挣钱规则介绍 GPTs应用商店官网在哪
GPT (Generative Pre-trained Transformers 是由 OpenAI 开发的一系列先进的自然语言处理模型。这些模型是基于“变压器”（Transformer）架构，它使用了自注意力（self-attention）机制，使模型...
-
AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例
AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例 学习前言 源码下载地址 网络构建 一、什么是Stable Diffusion（SD） 二、Stable Diffusion的组成 三、i...
-
【大模型系列 06】LLaMA-7B/13B for PyTorch 昇腾迁移
源码链接 https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/PyTorch/built-in/foundation/LLaMA-13B LLaMA-7B/13B for PyTorch...
-
stable-diffusion-webui手动安装详细步骤（以及报错解决、踩坑）
文章目录 大话stable-diffusion-webui系列 AMD显卡请看这篇文章 前提 问题 环境 安装过程 升级CUDA驱动 安装CUDAToolKit 安装cuDNN 克隆项目地址 安装Pytorch 启动项目 题外话...
-
Stable Diffusion: 利用Latent Diffusion Models实现高分辨率图像合成
原文链接： Stable Diffusion: 利用Latent Diffusion Models实现高分辨率图像合成 High-Resolution Image Synthesis with Latent Diffusion Models...
-
stable diffusion webui 安装部署（linux系统）
文中部署stable diffusion webui所使用的机器是腾讯云服务器linux系统，centos7 一 环境准备 在这里使用anaconda安装，优势就是可以方便地安装和管理软件包，同一系统上可以同时使用不同版本的 Python 和第三方软件...
-
AMD安装Stable-Diffusion步骤笔记
AMD安装Stable-Diffusion步骤2023.6.4 使用平台 安装步骤 1.安装 Python 3.10.6 2.安装 git 3.获取Stable-Diffusion 4.运行webui-user.bat 访问使用...
-
足够惊艳，使用Alpaca-Lora基于LLaMA(7B)二十分钟完成微调，效果比肩斯坦福羊驼
之前尝试了从0到1复现斯坦福羊驼（Stanford Alpaca 7B），Stanford Alpaca 是在 LLaMA 整个模型上微调，即对预训练模型中的所有参数都进行微调（full fine-tuning）。但该方法对于硬件成本要求仍然偏高且训练低效...
-
AIGC入门 - LLM 信息概览
在阅读本文之前，建议阅读文章：《GPT，GPT-2，GPT-3，InstructGPT的进化之路》 本文将介绍以下 LLM OPT LLaMa Alpaca Vicuna Moss chatGLM Baichuan Openbuddy 一、OPT...
-
微调Whisper语音识别模型和加速推理
前言 OpenAI在开源了号称其英文语音辨识能力已达到人类水准的Whisper项目，且它亦支持其它98种语言的自动语音辨识。Whisper所提供的自动语音识与翻译任务，它们能将各种语言的语音变成文本，也能将这些文本翻译成英文。本项目主要的目的是为了对W...
-
StableDiffusion-webUI环境配置、部署、汉化、扩展超详细步骤 || 服务器Linux Ubuntu/本地Windows || 比官方安装更高自定义度 || anaconda虚拟环境下
目录 一、代码下载 以下指令用git下载代码（可能不能直接跑通，后续需要修改一些代码，见“ 四、代码修改”部分） 1. 下载 stable-diffusion-webui 仓库 2. 下载其他仓库 二、环境配置 0. 安装anaconda、...
-
最新本地大模型进展#Chinese-LLaMA-2支持16k长上下文
Hi，今天为大家介绍最新的本地中文语言模型进展。 [2023/08/25] Chinese-LLaMA-2发布了新的更新： 长上下文模型Chinese-LLaMA-2-7B-16K和Chinese-LLaMA-2-13B-16...
-
【AI绘画】如何优雅的在本地配置 novelai ？
大家好，最近 AI 绘画太火了，火到我无论是打开b乎还是b站，都会给我的首页推荐AI绘画相关的。当然我也是收藏和关注了一大波内容，后续会分享出来，各路大佬的新奇玩法。 网上有一大堆一键安装的教程，但是很多人提示存在一定的风险，而且还有一个问题就是...
-
Linux上如何使用Stable Diffusion WebUI
在我把所有的坑都踩了一遍之后，决定记录一下linux上的Stable Diffusion webui是怎么搞的。 前提条件 已安装CUDA 已安装git 已安装Anaconda 直接安装Anaconda不要指望Linux自带的Pyt...
-
基于LLaMA却改张量名，李开复公司大模型引争议，官方回应来了
前段时间，开源大模型领域迎来了一个新的模型 —— 上下文窗口大小突破 200k，能一次处理 40 万汉字的「Yi」。 这个大模型由创新工场董事长兼 CE0 李开复创立的大模型公司「零一万物」构建，包括了 Yi-6B 和 Yi-34B 两个版本。 根据 H...
-
LLM系列 | 19 : Llama 2实战(上篇)-本地部署(附代码)
简介 小伙伴们好，我是《小窗幽记机器学习》的小编：卖热干面的小女孩。紧接前文：万字长文细说ChatGPT的前世今生，后续会尝试以理论+实践的方式逐步对主流的各大LLM进行实测和汉化。今天这篇关于Llama2的小作文其实比较长，所以分为上下两篇，上篇...
-
openai开源的whisper在huggingface中使用例子（语音转文字中文）
openai开源的语音转文字支持多语言在huggingface中使用例子。 目前发现多语言模型large-v2支持中文是繁体，因此需要繁体转简体。 后续编写微调训练例子 GitHub地址： https://github.com/openai/whispe...
-
腾讯云部署清华大学ChatGLM-6B实战
简介（来自官方） ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只...
-
[大模型] 搭建llama主流大模型训练环境
关键词：大模型，LLAMA，CUDA，模型训练 1. 基础环境 OS： Ubuntu 18.04GPU： 4*A100(40G (单机4卡A100 40G CUDA：11.7cuDNN： 8.4.1 (需要登录官网后下载 nccl： 2.12.12...
-
stable-diffusion安装教程推荐
总结：安装的时候VPN最重要,安装完成启动使用stable-diffusion关闭vpn 安装报错都是因为vpn问题，各种安装不了，报错基本上百度都有解决方法 安装看下面两基本上够了 Windows安装Stable Diffusion WebUI及...
-
【AIGC】BaiChuan7B开源大模型介绍、部署以及创建接口服务
模型介绍 baichuan-7B是由百川智能开发的一个开源的大规模预训练模型。基于Transformer结构，在大约1.2万亿tokens上训练的70亿参数模型，支持中英双语，上下文窗口长度为4096。在标准的中文和英文权威benchmark（C-EV...
-
Stable Diffusion之Scheduler模块比对生成结果
项目场景： 替换Stable Diffusion的Scheduler模块并对结果进行分析 diffusers包含多个用于扩散过程的预置scheduler function，用于接收经过训练的模型的输出，扩散过程正在迭代的样本，以及返回去噪样本的...
-
大语言模型之十五-预训练和监督微调中文LLama-2
这篇博客是继《大语言模型之十二 SentencePiece扩充LLama2中文词汇》、《大语言模型之十三 LLama2中文推理》和《大语言模型之十四-PEFT的LoRA》 前面博客演示了中文词汇的扩充以及给予LoRA方法的预训练模型参数合并，并没有给出Lo...
-
【个人笔记本】本地化部署详细流程 LLaMA中文模型：Chinese-LLaMA-Alpaca-2
不推荐小白，环境配置比较复杂 全部流程 下载原始模型：Chinese-LLaMA-Alpaca-2 linux部署llamacpp环境 使用llamacpp将Chinese-LLaMA-Alpaca-2模型转换为gguf模型 windows部署...
-
AUTOMATIC1111/stable-diffusion-webui安装教程
github项目地址：AUTOMATIC1111/stable-diffusion-webui 前提： git已经安装（这个很简单，可以去其他教程看） 安装python 3.10.9，这里稍微说一下，用Anaconda或者python官网的环境都是...
-
json.decoder.JSONDecodeError: Unterminated string starting at: line 1 ... - Stable Diffusion报错解决方案
Stable Diffusion提示JSONDecodeError错误 错误内容 解决方案 错误内容 ... File "C:\stable-diffusion-webui\modules\sd_models.py", line...
-
成功解决RuntimeError: Failed to import transformers.models.llama.tokenization_llama_fast because of the
成功解决RuntimeError: Failed to import transformers.models.llama.tokenization_llama_fast because of the following error (look up to...
-
使用LoRA对大语言模型LLaMA做Fine-tune
使用LoRA对大语言模型LLaMA做Fine-tune 前言 下载 配置环境 模型的训练 Fine-tune 模型的使用 Inference 参考 问题汇总 前言 目前有大量对LLM（大语言模型）做Fine-tune的方式，不...
-
LLaMA加载时遇见：ValueError: Tokenizer class LLaMATokenizer does not exist or is not currently imported.
在加载LLaMA模型时遇到到的问题及解决方法。 1. 问题1 解决方法：找到llama模型中的tokenizer_config.json文件，把“tokenizer_class”对应的“LLaMATokenizer”改为“LlamaTokenize...
-
stable-diffusion官方版本地复现手册（2023年4月10日）
stable diffusion v1.4官方版（CompVis）本地复现手册 主页：https://github.com/wjxpro 邮箱：804359553@qq.com 文章目录 **stable diffusion v1...
-
LLM：LLaMA模型和微调的Alpaca模型
LLaMA模型 简单了解[LeCun狂赞：600刀GPT-3.5平替！ 斯坦福70亿参数「羊驼」爆火，LLaMA杀疯了] 论文原文：https://arxiv.org/abs/2302.13971v1 预训练数据 模型架构 模型就是用的tra...
-
几行代码教你轻松完成超大模型推理：LLaMA-30B+TITAN RTX*4+accelerate
是不是苦于没有ChatGPT的API key或者免费的token而无法愉快地和它玩耍？想不想在有限的计算资源上部署大模型并调戏大模型？？想不想解锁大模型的除了对话之外的其它功能？？？几行代码教你搞定如何在有限的计算资源下部署超大模型并实现推理。 准备...
-
如何创建定制版ChatGPT的GPTs 个人使用定制GPTs教程完整步骤介绍
如今，即使不懂编程的人，也可以自行定制一款独特的 GPT 模型了。OpenAI 发布了自定义 GPT，简称为 GPTs，并且还发布了专门用于构建、管理和个性化定制聊天机器人的 GPT Builder。 OpenAI 还表示将在本月稍晚时间推出 GPT...
-
GPTs软件怎么使用？GPTs需要开通订阅ChatGPT Plus吗？
现在，您可以轻松打造您专属的 ChatGPT 版本，它能根据特定指令、额外知识和各种技能进行定制。OpenAI推出了一款特殊版的 ChatGPT，称为 GPTs。GPTs 是一种创新方法，允许任何人根据日常需求、特定任务、工作或家庭生活来个性化定制自己的...
-
AI专业教您保姆级在暗影精灵8Windows11上本地部署实现AI绘画：Stable Diffusion（万字教程，多图预警）
目录 一、Stable Diffusion介绍 二、Stable Diffusion环境搭建 1.Anaconda下载与安装 2.Pycharm（IDE）下载与安装 3.CUDA、CuDNN下载与安装 三、Stable Diffusion...
-
Intel研究人员提出新AI方法，更高效地在CPU上部署LLM
大型语言模型（LLM）因其在文本生成、语言理解和文本摘要等各种任务中的卓越性能而备受瞩目，但它们庞大的模型参数却需要大量内存和专用硬件，这使得部署这些模型变得相当具有挑战性。 为了降低推断所需的计算功率，研究人员通常采用权重量化等方法，即减少人工神经网络的...
-
LLama 2部署教程+私有模型分发
近日，Meta发布了LLama的最新版本——LLama2，尽管其对中文的处理能力尚有待提升，但其整体表现无疑是令人瞩目的。在发布当天，我便迫切地将其下载下来进行试用，发现相比之前的版本，LLama2在多个方面都实现了显著的进步，特别是在编程能力上的提升更为...
-
llama.cpp一种在本地CPU上部署的量化模型（超低配推理llama）
0x00 背景 前不久，Meta前脚发布完开源大语言模型LLaMA， 随后就被网友“泄漏”，直接放了一个磁力链接下载链接。 然而那些手头没有顶级显卡的朋友们，就只能看看而已了 但是 Georgi Gerganov 开源了一个项目llama.cpp...
-
【文生图系列】 Stable Diffusion v1复现教程
文章目录 Stable Diffusion v1 环境配置 权重下载 txt2img bug 超参数 Diffusers 参考 Stable Diffusion v1 stable diffusion是一个潜在的文本到图像...
-
【原创】用 VisualGLM 进行AIGC多模识别和内容生成
最近几个月，整个AI行业的LLM（大语言模型）蓬勃发展，除了过去传统的纯文字的多模态能力的视觉语言模型，如 GPT-4，ImageBind等表现令人印象深刻。 ChatGLM-6B是中文用户使用非常舒服的一个开源中文LLM。2023年5月17日，智谱...