-
在Docker中部署Llama大型语言模型
Docker作为一个轻量级的容器化平台，使得应用程序的部署和扩展变得简单而高效。在Docker中部署Llama大型语言模型，可以确保模型运行环境的一致性和可移植性，同时也便于管理和扩展。本文将介绍如何在Docker中部署Llama模型的具体步骤和注意事项。...
-
Stable Diffusion Web UI Windows部署及坑
文章目录 1、准备 2、Miniconda安装 3、git安装 4、安装CUDA 4、开始部署 遇到的坑 1、准备 官网 需要翻墙软件 最少6G内存，显卡在2060以上 2、Miniconda安装 这是一个运行pytho...
-
llama.cpp 转化 huggingface 模型失败 解决路径
问题： ./main -m ./models/book_q4_K_M -n 128 报错： terminate called after throwing an instance of 'std::out_of_range' what( :...
-
Stable Diffusion 指定模型，Lora 训练全流程
简介 在使用 Stable Diffusion 的时候，可以选择别人训练好的 Lora，那么如何训练自己的 Lora呢？ 本篇文章介绍了如何训练Lora，如何筛选模型，如何在 Stable Diffusion 中使用。 闲话不多说，直接实际操作吧。...
-
活体脑细胞做成16核芯片，用Python就能编程，九个机构开展实验36所大学排队
首个“脑PU”来了！由“16核”类人脑器官（human brain organoids）组成。 这项研究来自瑞士生物计算创业公司FinalSpark，并且他们宣称： 这种生物处理器（bioprocessor）的功耗比传统数字处理器低100万倍。 这些类脑...
-
【AIGC】本地部署 ollama(gguf) 与项目整合
首先，先跟各位小伙伴说一句 Sorry 。上一篇文章《【AIGC】本地部署通义千问 1.5 (PyTorch 》并没有考虑企业成本问题，虽然代码可以跑通，但是中小型企业想通过该代码实现项目落地还是比较困难的。为此，本文将采用 GGUF 预量化大模型结合 O...
-
Stable Diffusion使用Roop插件一键换脸教程
一、前言 先做个声明，下面图片都是AI工具生成，此技术不要做危害他人之事。 在AI绘画的学习过程中，有不少人希望可以用AI做个人写真，或者将AI生成的图片换成真人的脸做服装展示。训练模型也可以实现上面的需求，但是需要的图比较多，很麻烦。今天教大家使用...
-
大模型微调之 使用 LLaMA-Factory 微调 Llama3
大模型微调之 使用 LLaMA-Factory 微调 Llama3 使用 LLaMA Factory 微调 Llama-3 中文对话模型 安装 LLaMA Factory 依赖 %cd /content/ %rm -rf LLaMA-Factory...
-
我的stable-diffusion入门
开头 翻到一个感兴趣的帖子，然后开始了这段折腾 载下来用了，发现用的是cpu出图，慢的很，还是需要stable diffusion webui来做，所以就开始找资料 参考链接 找模型：https://civitai.com/https://hug...
-
基于llama.cpp的GGUF量化与基于llama-cpp-python的部署
前言：笔者在做GGUF量化和后续部署的过程中踩到了一些坑，这里记录一下。 1.量化 项目地址：llama.cpp 1.1 环境搭建 笔者之前构建了一个用于实施大模型相关任务的docker镜像，这次依然是在这个镜像的基础上完成的，这里给出Dock...
-
【Stable Diffusion】ModuleNotFoundError: No module named ‘ifnude‘ and roop v0.0.2
提示：ModuleNotFoundError: No module named ‘ifnude’ 一、issues/299：ModuleNotFoundError: No module named ‘ifnude’ 路径 cmd 中也可以看到，...
-
llama_factory微调QWen1.5
GitHub - hiyouga/LLaMA-Factory: Unify Efficient Fine-Tuning of 100+ LLMsUnify Efficient Fine-Tuning of 100+ LLMs. Contribute to...
-
使用LLaMA Factory来训练智谱ChatGLM3-6B模型
使用LLaMA Factory来训练智谱ChatGLM3-6B模型时，以下是一个训练过程： 1. 环境搭建 a. 安装Python和Anaconda 下载并安装适合你操作系统的Python版本（推荐Python 3.10或更高版本）。 安装Anac...
-
Stable Diffusion 使用技巧与具体操作（详细）
Stable Diffusion 是一种基于扩散模型的图像生成技术，能够生成高质量的图像。以下是一些详细的使用技巧与具体操作，帮助你更好地利用这一技术进行创作。 1. 基本概念 Stable Diffusion 利用扩散过程生成图像，通过逐步添加噪声并...
-
在autodl平台使用llama-factory微调Qwen1.5-7B
1 部署环境 step 1. 使用24GB显存以上的显卡创建环境 step 2. 创建好环境之后，关闭环境，使用无卡模式开机（有钱可忽略） step 3. 安装LLaMA-Factory git clone https://github.com/...
-
GitHub Copilot 简单使用
因为公司安全原因，并不允许在工作中使用GitHub Copilot，所以，一直没怎么使用。最近因为有一些其它任务，所以，试用了一下，感觉还是很不错的。（主要是C++和Python编程） 一：常用功能 1.1：代码的智能提示和代码补全。 也就是Copi...
-
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流 1、 Llama 3...
-
安装部署Stable Diffusion WebUI实现AI绘画
Stable Diffusion WebUI 安装部署 环境准备 下载代码 启动webu.sh 访问WebUI 其他异常 其他设置 开启VAE和CLIP 部分参数说明 安装插件 中文汉化插件 安装civitai插件 提示词插件 ol...
-
llama-factory学习个人记录
框架、模型、数据集准备 1.llama-factory部署 # 克隆仓库 git clone https://github.com/hiyouga/LLaMA-Factory.git # 创建虚拟环境 conda create --name llama...
-
基于百度语音识别、文心一言大模型、百度语音合成的一套完整的语音交互（利用Python实现）
本人小白，因为毕设项目需要用的语音交互，便查网上的资料利用百度api实现，比较简单的过程，供大家借鉴批判。 项目框架大致分为3步：（1）百度语音识别可以将我们输入的语音转化为文本输入到文心一言大模型；（2）文心一言大模型根据输入以输出响应文...
-
如何在Linux服务器上安装Stable Diffusion WebUI
如何在Linux服务器上安装Stable Diffusion WebUI 一、前提条件 1、硬件条件 2、软件条件 二、安装步骤 1、创建Python虚拟环境 2、安装必要的软件和库 3、克隆Stable Diffusion WebUI仓...
-
AIGC、LLM 加持下的地图特征笔记内容生产系统架构设计
文章目录 背景 构建自动化内容生产平台 系统架构设计 架构详细设计 流程介绍 笔记来源 笔记抓取干预 笔记 AIGC 赋能 笔记 Rule 改写 笔记特征库构建 附录 Bash Cron 定时任务 Golang 与 Pyhon AIG...
-
Ubuntu20.04安装配置stable diffusion 超详细教程
1. 搭建Python环境 使用conda创建单独的虚拟环境sd, 打开终端，运行： conda create -n sd python==3.10.9 然后激活环境： conda activate sd 安装torch 查看自己的...
-
“全网最全”LLM推理框架集结营 | 看似微不足道，却决定着AIGC项目的成本、效率与性能!
00-前序 随着ChatGPT、GPT-4等大语言模型的出现，彻底点燃了国内外的学者们与企业家们研发LLM的热情。国内外的大语言模型如雨后春笋一般的出现，这些大语言模型有一部分是开源的，有一部分是闭源的。 伴随着大语言模型的出现，国...
-
007-Wsl-Ubuntu上LLaMA-Factory如何下载、部署、运行【AI超车B计划】
一、目标 了解什么是LLaMA-Factory； 成功在Wsl-Ubuntu环境下安装并运行LLaMA-Factory； 二、路径 学习笔记中关于LLaMA-Factory的简介，了解什么是LLaMA-Factory； 在Ubun...
-
玩转AI，笔记本电脑安装属于自己的Llama 3 8B大模型和对话客户端
2024 年 4 月 18 日，Meta开源了 Llama 3 大模型，把 AI 的门槛降低到了最低，这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了，这简直就是给个人开发者发了个大红包！Llama 3 模型有不同的参数版本，本文主要分享我在个人...
-
AIGC专栏10——EasyAnimate 一个新的类SORA文生视频模型 轻松文生视频
AIGC专栏10——EasyAnimate 一个新的类SORA文生视频模型 ?轻松文生视频 学习前言 源码下载地址 技术原理储备（DIT/Lora/Motion Module） 什么是Diffusion Transformer (DiT ...
-
stable diffusion的从安装到使用
stable-diffusion，一个免费开源的文生图软件，文章主要讲怎么从源码开始安装，以及使用的方式 git地址：https://github.com/AUTOMATIC1111/stable-diffusion-webui 本人电脑环境win10...
-
驾驭Stable Diffusion：本地机器上文本到图像生成的全面指南
引言 Stable Diffusion 席卷全球，彻底改变了我们通过文本提示创建图像的方式。在本篇针对中级用户的综合指南中，我们将深入探讨在本地机器上使用 Stable Diffusion 进行文本到图像生成的世界。无论您是艺术家、设计师还是人工智能爱好...
-
Stable Diffusion教程|快速入门SD绘画原理与安装
什么是Stable Diffusion，什么是炼丹师？根据市场研究机构预测，到2025年全球AI绘画市场规模将达到100亿美元，其中Stable Diffusion（简称SD）作为一种先进的图像生成技术之一，市场份额也在不断增长，越来越多的人参与到AI掘金...
-
这个 Stable Diffusion 新模型换脸效果真不错！
ControlNet 是 Stable Diffusion Web UI 中功能最强大的插件。基于 ControlNet 的各种控制类型让 Stable Diffusion 成为 AI 绘图工具中最可控的一种。 IP Adapter 就是其中的一种非常有...
-
OpenAI API - 使用Whisper和GPT-4模型开发一个自动化会议记录生成器
前言 本文章结合官方教程给大家介绍如何利用OpenAI的Whisper和GPT-4模型来开发一个自动化会议记录生成器。这个应用程序可以转录会议音频 一 应用程序基本介绍 Whisper和GPT-4模型：Whisper是一个用于音频转录的模型，而G...
-
Stable Diffusion安装指南（win+Mac）
今天我给大家带来了超强的免费AI绘画工具Stable Diffusion的保姆级安装教程，大家可以自行修炼。 首先我们先介绍一下Stable Diffusion： Stable Diffusion是一个文本到图像的潜在扩散模型，由CompVis、Sta...
-
搭建和配置Stable Diffusion环境，超详细的本地部署教程
跃然纸上的创意、瞬息万变的想象，Stable Diffusion以AI的力量赋予您无限创作可能。在这篇详尽的本地部署教程中，我们将携手走进Stable Diffusion的世界，从零开始，一步步搭建和配置这个强大的深度学习环境。无论您是热衷于探索AI艺术的...
-
Llama 3 微调项目实践与教程（XTuner 版）
Llama 3 微调项目实践与教程（XTuner 版） OpenMMLab 2024-04-20 11:37 上海 以下文章来源于InternLM ，作者XTuner InternLM. 以原始创新引领AI大模型技术进步。 Lla...
-
使用llama.cpp量化部署LLM
以llama.cpp工具为例，介绍模型量化并在本地部署的详细步骤。这里使用 Meta最新开源的 Llama3-8B 模型。 1 环境 系统应有make（MacOS/Linux自带）或cmake（Windows需自行安装）编译工具 Python 3....
-
aigc 启动器 sd-webui-aki-v4 decode_base64_to_file
下载地址： SD-WebUI启动器 绘世-启动器 | 万物档案 decode_base64_to_file报错： File "E:\BaiduNetdiskDownload\stable diffusion\sd-webui-aki-v4\e...
-
Novita AI开源Animate Anyone项目 上传一张照片即可合成动画
阿里巴巴的一个项目，利用一张图片和提取视频中的人物姿势合成角色动画，现在被Novita AI开源并提供了API。用户只需提供一张照片和一个参考视频，即可通过API接入合成动画。该项目名为Animate Anyone，灵感来源于MooreThreads/Mo...
-
分分钟完成Excel任务的十大AI工具
译者 | 布加迪 审校 | 重楼 通过无缝集成Python和各种人工智能(AI 工具，Excel的功能正在迅速发生转变，彻底改变了工作节奏。 去年，微软宣布了Python集成的公开预览版，Excel因此迎来了重大升级。这意味着开发人员和数据分析师不再需...
-
AIGC: 4 IT从业者如何构建自己的AI知识体系
图片是我使用dall.e模型生成的图片， 提示词： 程序员系统学习OpenAI开发者平台系统学习。 我按照SCQA模型，来开始今天的内容。 S 场景 今天是2024年3月23日，我在深圳，从事IT行业，每个人从事的行业各不相同， 但是都在被AI冲...
-
速度秒掉GPT-4o、22B击败Llama 3 70B，Mistral AI开放首个代码模型
对标 OpenAI 的法国 AI 独角兽 Mistral AI 有了新动作：首个代码大模型 Codestral 诞生了。 作为一个专为代码生成任务设计的开放式生成 AI 模型，Codestral 通过共享指令和补全 API 端点帮助开发人员编写并与代码...
-
通过强化学习策略进行特征选择
特征选择是构建机器学习模型过程中的决定性步骤。为模型和我们想要完成的任务选择好的特征，可以提高性能。 如果我们处理的是高维数据集，那么选择特征就显得尤为重要。它使模型能够更快更好地学习。我们的想法是找到最优数量的特征和最有意义的特征。 在本文中，我们将...
-
LLMs之LLaMA-3：Llama-3-70B-Gradient-1048k-adapter的简介、源代码解读merge_adapters.py(仅需58行代码)合并多个PEFT模型(LoRA技术)
LLMs之LLaMA-3：Llama-3-70B-Gradient-1048k-adapter的简介、源代码解读merge_adapters.py(仅需58行代码 合并多个PEFT模型(LoRA技术 将LLaMA-3扩展到100万/1048k上下文——解析...
-
Mistral 开源代码模型夺得王座！Codestral疯狂训练超80种语言，国内通义开发者请求出战！
出品 | 51CTO技术栈（微信号：blog51cto） Mistral 发布了首个代码模型 Codestral-22B！ 该模型的疯狂之处不仅在于训练了80多种编程语言，包括许多代码模型忽略的Swift等。 还在于他非同一般的速度。要求用Go语言编...
-
五一假期Llama 3之魔改不完全攻略（Part 2)
2024年4月18日，Meta AI 正式宣布推出 Llama 3，这标志着开源大型语言模型（LLM）领域的又一重大进步。如同一颗重磅炸弹， Llama 3 以其卓越的性能和广泛的应用前景，预示着 AI 技术的新时代。 目前开源的是Llama3 8B 和...
-
比PID更丝滑的控制算法&卡内基梅隆大学
本文经自动驾驶之心公众号授权转载，转载请联系出处。 MPC控制算法，全称Model Predictive Control（模型预测控制），是一种基于系统动态模型的控制技术。它的工作原理是通过数学模型预测系统的未来行为，并基于这些预测结果来优化系统的控制...
-
文生图——python调用stable diffusionAPI生成有趣的图像
本文将介绍如何使用Python调用Stable Diffusion API进行图像生成，实现文生图的功能。通过详细的步骤说明和示例代码，读者将能够轻松掌握这一技术，并运用它生成独特而富有创意的图像作品。无论你是编程爱好者还是设计师，都能从中获得启发和乐趣。...
-
Windows11(非WSL)安装Installing llama-cpp-python with GPU Support
直接安装，只支持CPU。想支持GPU，麻烦一些。 1. 安装CUDA Toolkit (NVIDIA CUDA Toolkit (available at https://developer.nvidia.com/cuda-downloads 2...
-
爬虫技术详解：Z如何爬虫
在数字化信息时代，网络爬虫（Web Crawler）成为了一种重要的数据收集工具。它能够自动抓取、分析和整理互联网上的信息，为数据分析和应用提供丰富的素材。本文将详细讨论“Z如何爬虫”，即如何有效地进行网络爬虫操作，涵盖爬虫的基本原理、技术选型、实施步骤以...
-
whisper之初步使用记录
文章目录 前言 一、whisper是什么？ 二、使用步骤 1.安装 2.python调用 3.识别效果评估 4.一点封装 5.参考链接 总结 前言 随着AI大模型的不断发展，语音识别等周边内容也再次引发关注，通过语音转文字再与大模...