-
使用LLaMA Factory来训练智谱ChatGLM3-6B模型
使用LLaMA Factory来训练智谱ChatGLM3-6B模型时，以下是一个训练过程： 1. 环境搭建 a. 安装Python和Anaconda 下载并安装适合你操作系统的Python版本（推荐Python 3.10或更高版本）。 安装Anac...
-
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流 1、 Llama 3...
-
LLaMA-Factory 微调训练
LLaMA-Factory 微调训练 该框架功能，标注-微调-导出-合并-部署，一整条流程都有，而且训练时消耗的gpu算力也会小一些 一，安装（推荐在linux中训练，win可以用wsl+docker） git clone https:...
-
搭建和配置Stable Diffusion环境，超详细的本地部署教程
跃然纸上的创意、瞬息万变的想象，Stable Diffusion以AI的力量赋予您无限创作可能。在这篇详尽的本地部署教程中，我们将携手走进Stable Diffusion的世界，从零开始，一步步搭建和配置这个强大的深度学习环境。无论您是热衷于探索AI艺术的...
-
Novita AI开源Animate Anyone项目 上传一张照片即可合成动画
阿里巴巴的一个项目，利用一张图片和提取视频中的人物姿势合成角色动画，现在被Novita AI开源并提供了API。用户只需提供一张照片和一个参考视频，即可通过API接入合成动画。该项目名为Animate Anyone，灵感来源于MooreThreads/Mo...
-
【LLAMA3超级课堂-第四节】Llama 3 高效部署实践（LMDeploy 版）
开发机地址：https://studio.intern-ai.org.cn/console/instance 本文内容 环境，模型准备 LMDeploy chat LMDeploy模型量化(lite LMDeploy服务(serve 环...
-
AIGC: 4 IT从业者如何构建自己的AI知识体系
图片是我使用dall.e模型生成的图片， 提示词： 程序员系统学习OpenAI开发者平台系统学习。 我按照SCQA模型，来开始今天的内容。 S 场景 今天是2024年3月23日，我在深圳，从事IT行业，每个人从事的行业各不相同， 但是都在被AI冲...
-
RWKV 模型本地部署工具 Ai00 Server 保姆级教程
了解Ai00 简介 Ai00 Server 是基于 web-rwkv 推理引擎的 RWKV 语言模型推理 API 服务器。它本身也是一个基于 MIT 协议的开源软件，由 RWKV 开源社区成员 @cryscan 和@顾真牛牵头成立的 Ai00-x 开发...
-
LLMs之LLaMA-3：Llama-3-70B-Gradient-1048k-adapter的简介、源代码解读merge_adapters.py(仅需58行代码)合并多个PEFT模型(LoRA技术)
LLMs之LLaMA-3：Llama-3-70B-Gradient-1048k-adapter的简介、源代码解读merge_adapters.py(仅需58行代码 合并多个PEFT模型(LoRA技术 将LLaMA-3扩展到100万/1048k上下文——解析...
-
Llama3-Tutorial（Llama 3 超级课堂）作业
1.Llama 3 Web Demo 部署 cd ~ git clone https://github.com/SmartFlowAI/Llama3-Tutorial 安装 XTuner 时会自动安装其他依赖 cd ~ git clone -b...
-
保姆级零基础微调大模型（LLaMa-Factory，多卡版）
此处非常感谢https://github.com/hiyouga/LLaMA-Factory这个项目。 看到网上的教程很多都是教如何用webui来微调的，这里出一期命令行多卡微调教程~ 1. 模型准备 模型下载比较方便的方法： 1. modelsc...
-
一文速览Llama 3及其微调：从如何把长度扩展到100万到如何微调Llama3 8B
前言 4.19日凌晨正准备睡觉时，突然审稿项目组的文弱同学说：Meta发布Llama 3系列大语言模型了，一查，还真是 本文以大模型开发者的视角，基于Meta官方博客的介绍：Introducing Meta Llama 3: The most capa...
-
OpenAI 开源的免费 AI 语音转文字工具 - Whisper，一步一步本地部署运行
Whisper 是 OpenAI 研发的一个通用的语音识别模型，可以把语音转为文本。它在大量多样化的音频数据集上进行训练，同时还是一个多任务模型，可以执行多语言语音识别、语音翻译和语言识别。 一、使用场景 语音 => 文字 是一个非常实用的功能，...
-
手把手教你基于华为云，实现MindSpore模型训练
本文分享自华为云社区《【昇腾开发全流程】MindSpore华为云模型训练》，作者：沉迷sk。 前言 学会如何安装配置华为云ModelArts、开发板Atlas 200I DK A2。 并打通一个Ascend910训练到Ascend310推理的全流程...
-
OpenBayes 教程上新｜一键 input Llama 3，70B 版本只占用 1.07 GB 存储空间
2023 年 2 月，Meta 发布 Llama，一度成为 AI 社区最强大的开源大模型，但当时因开源协议问题，无法免费商用，仅供研究使用。5 个月后，免费可商用的 Llama 2 横空出世，训练数据多 40%，上下文长度翻倍。 同年 9 月的 Al N...
-
最全Stable Diffusion 入门_38(2)，2024年最新终于彻底把握了
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。 需要这份系统化的资料的朋友，可以添加戳这里获取 一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感...
-
MacOS使用ollama部署codellama+openui以及llama.cpp部署
现在AI这么火，你是不是也渴望能够在本地部署并运行属于自己的大模型，然而，高昂的硬件成本又往往成了一大障碍，限制了你继续在AI领域去探索和创新。如果告诉你，无需换电脑，无需额外花钱买GPU或换显卡，你现在的电脑就可以本地跑一些大模型，那将是多么酷的一...
-
最简单的Stable Diffusion 本地部署教程
为了在本地成功部署Stable Diffusion，你需要遵循一系列详细的步骤，确保所有必要的硬件和软件环境都被正确配置。以下是一个全面的教程，帮助你从零开始搭建Stable Diffusion的运行环境。 1. 硬件和软件环境准备【1】【5】 在开...
-
Stable Diffusion（1.8.0）本地部署实战指南
目录 检查电脑环境 下载开源项目 配置运行环境 问题处理 基础模型下载 检查电脑环境 启动CMD命令窗。 如上图，在CMD窗口输入python命令，可查看本地安装的python版本信息等。输入exit( 退出python命...
-
stable diffusion webui的本地部署
操作系统：windows10，显卡：RTX2060super ，安装时间：2024年3月30日，磁盘占用：20G，+科学上网 安装过程及本文部段落来自： https://github.com/AUTOMATIC1111/stable-diffu...
-
Hugging Face全攻略：轻松下载Llama 3模型，探索NLP的无限可能！【实操】
Hugging Face：自然语言处理的强大开源模型库 在数字化时代，自然语言处理（NLP）技术的崛起为人工智能的发展注入了新的活力。而Hugging Face，作为这一领域的佼佼者，凭借其强大的模型仓库、易用的API以及活跃的社区支持，成为无数NL...
-
LLamaFactory：当下最容易上手的大模型微调工具
近日，国内的一款微调框架发布了自己的论文《LLAMAFACTORY: Unified Efficient Fine-Tuning of 100+ Language Models》，对他们的框架做了系统性的总结。该框架自推出后迅速出圈，现已斩获15.6k的s...
-
llama3 微调教程之 llama factory 的 安装部署与模型微调过程，模型量化和gguf转换。
本文记录了从环境部署到微调模型、效果测试的全过程，以及遇到几个常见问题的解决办法，亲测可用（The installed version of bitsandbytes was compiled without GPU support. NotImpleme...
-
Stable Diffusion Windows本地部署超详细教程（手动+自动+整合包三种方式）
一、 Stable Diffusion简介 2022年作为AIGC（Artificial Intelligence Generated Content）时代的元年，各个领域的AIGC技术都有一个迅猛的发展，给工业界、学术界、投资界甚至竞赛...
-
使用自己的数据集训练DETR模型
众所周知，Transformer已经席卷深度学习领域。Transformer架构最初在NLP领域取得了突破性成果，尤其是在机器翻译和语言模型中，其自注意力机制允许模型处理序列数据的全局依赖性。随之，研究者开始探索如何将这种架构应用于计算机视觉任务，特别是...
-
Ollama如何构建自己的Llama3中文模型
Ollama Ollama 是一个开源的大型语言模型（LLM）服务工具，它允许用户在本地机器上运行和部署大型语言模型。Ollama 设计为一个框架，旨在简化在 Docker 容器中部署和管理大型语言模型的过程，使得这一过程变得简单快捷。用户可以通过简单的...
-
Docker三分钟搞定LLama3开源大模型本地部署
概述 LLaMA-3（Large Language Model Meta AI 3）是由Meta公司开发的大型开源生成式人工智能模型。它在模型结构上与前一代LLaMA-2相比没有大的变动。 LLaMA-3模型分为不同规模的版本，包括小型、中型和大型，以适...
-
五个简单好用的本地运行大模型的方法
出品 | 51CTO技术栈（微信号：blog51cto） 像ChatGPT、Claude.ai和phind这样的聊天机器人非常有用，但可能并不总是希望的问题或敏感数据由外部应用程序处理。在平台上尤其如此，在这些平台上，你的互动可能会被人类审查，并以其他方...
-
【从零开始AI绘画2】StableDiffusionWebUI的基础使用
StableDiffusionWebUI的基础使用 第一章中已经完成了SDwebui的部署已经初始化，接下来我们开始基础使用，涉及更细节高级的功能本文暂时不写 文章目录 StableDiffusionWebUI的基础使用 界面简介...
-
1MB的神奇AI，检测百万文件，99%的准确率！
在 Web 开发中，上传文件至服务器前的文件类型检测至关重要。这一步骤不仅能够确保服务器和用户的安全，拦截可能的恶意文件，还能保证上传的文件完整且符合预期，提高数据的合规性。同时，通过及时给予用户反馈和指导，也能提升用户体验，避免不必要的困惑。 之前阿宝...
-
stable-diffusion-webui踩坑指南
过年刷资讯AI的信息铺天盖地，准备研究研究。最后选择从AI绘画的stable diffusion入手。本地安装了最新的Python（13.12.2）然后直接克隆GitHub - Stability-AI/stablediffusion: High-Reso...
-
whisper-large-v3：速度快的令人翻译模型三种实用的调用方法
1、whisper-large-v3 是openai公司的模型，可使用Python代码调用； 2、whisper-large-v3基础上chenxwh 制作了开源库insanely-fast-whisper ，可本地指令运行，或 Google Colab...
-
【讲解下如何Stable Diffusion本地部署】
?博主：程序员不想YY啊 ?CSDN优质创作者，CSDN实力新星，CSDN博客专家 ?点赞?收藏⭐再看?养成习惯 ✨希望本文对您有所裨益，如有不足之处，欢迎在评论区提出指正，让我们共同学习、交流进步！ 目录 ?前言 ?前提条件 ?步骤...
-
【Docker】搭建便捷的Docker容器管理工具 - dockerCopilot
【Docker】搭建便捷的Docker容器管理工具 - dockerCopilot 前言 本教程基于绿联的NAS设备DX4600 Pro的docker功能进行搭建。前面有介绍过OneKey，而dockerCopilot便是OneKey的升级版，作者对其...
-
llama-factory简介
llamafactory是什么，能干什么 LLaMA-Factory 是一个易于使用的大规模语言模型（Large Language Model, LLM）微调框架，它支持多种模型，包括 LLaMA、BLOOM、Mistral、Baichuan、Qwen ...
-
华人又来炸场！一个命令工具让GPT-4干掉Devin和RAG！Jim Fan：提示工程2.0没必要了！
出品 | 51CTO技术栈（微信号：blog51cto） 华人又来炸场了！昨天，普林斯顿的CS/NLP硕士生John Yang在Github上开源了一款堪比Devin的利器。不到一天，就在Github上斩获了1.3k 星，异常生猛。据悉，4月10日，详细...
-
安装Stable Diffusion遇到RuntimeError: cannot import name ‘_compare_version‘ from ‘torchmetrics.utilities
在b站，根据这位博主的这个视频安装Stable Diffusion时遇到的这个bug。 解决办法： 1、打开命令行（不懂，去百度）输入pip show torchmetrics 可以看到torchmetrics的版本是1.2.1 2、卸载tor...
-
llama笔记：官方示例解析 example_chat_completion.py
1 导入库 from typing import List, Optional ''' 从typing模块中导入List和Optional。 typing模块用于提供类型注解的支持，以帮助明确函数预期接收和返回的数据类型。 List用于指定列表...
-
此时此刻，两个Claude智能体正在无休止对话，无人干预
现在，AI 大模型已经疯狂到这种地步了吗？ 此时此刻，正有两个 Claude 模型在无休止地对话，它们在探索整个宇宙的奥妙。 项目主页介绍称，这是两个 Claude 3 Opus 模型实例之间的自动对话，它们被指示使用命令行界面的比喻（metaphor...
-
llama.cpp部署多模态视觉模型到应用实践
一、安装cmake https://cmake.org/ 因为我使用是win10系统cmake版本是3.26.4，请根据自己系统选择版本。 二、下载源码 git clone https://github.com/ggerganov/llam...
-
让 stable diffusion 局域网访问：详细解析配置步骤【Stable Diffusion 实战教程】
有不会的，一对一沟通 排查 stable-diffusion-webui 局域网访问问题：详细解析配置步骤 引言： 在部署 stable-diffusion-webui 后，确保其在局域网内可访问是使用该工具的关键一步。如果您遇到了局域网无法访问的...
-
在Raspberry Pi上运行本地LLM和VLM
译者 | 朱先忠 审校 | 重楼 在树莓派上使用Ollama的本地LLM和VLM（作者本人提供照片） 前言 有没有想过在自己的设备上运行自己的大型语言模型（LLM）或视觉语言模型（VLM）？你可能想过，但一想到从头开始设置，必须管理有关环境，还要下载正...
-
Stable Diffusion：AI绘画的革命与实践指南
在人工智能的浪潮中，Stable Diffusion作为一款开源的AI绘画软件，正逐渐成为艺术家、设计师乃至普通爱好者的新宠。它不仅能够生成令人惊叹的数字艺术作品，还能够模仿特定艺术家的风格，让创意的表达更加多元和自由。本文将为您提供Stable Diff...
-
Stable Diffusion 开启后切换VPN无法使用问题
在使用Stable Diffusion时，经常需要切换VPN进行环境切换，科学上网。每次切换后Stable Diffusion也都会出现 无法使用的问题，笨办法就是每次重新启动…… 这种情况主要是Stable Diffusion Webui 采用的是开源...
-
llama factory 参数体系EvaluationArguments、DataArguments、FinetuningArguments、FreezeArguments、LoraArgument
项目地址 https://github.com/hiyouga/LLaMA-Factory 模型层参数 这段代码是使用Python的dataclasses模块定义的一个数据类ModelArguments，用于管理和存储与模型微调相关的参数。这个类的设计是...
-
AMD芯片使用Stable-Diffusion
AMD芯片使用Stable-Diffusion 由于A卡的Stable Diffusion工具的逐步完善，之前只能使用CPU跑，现在已支持AMD显卡进行AI绘图。 下载 官网链接：https://github.com/AUTOMATIC11...
-
Image-Manga Translator官网体验入口 AI漫画图像翻译工具免费在线使用地址
Image-Manga Translator是一款能够将漫画或图片中的文字进行多语言翻译和图像处理的工具。它具有文本检测、光学字符识别(OCR 、机器翻译和图像修补等功能，支持多种语言如日语、中文、英语和韩语等，能够实现近乎完美的翻译效果。主要面向漫画爱好...
-
AI国漫女神这样画！傻瓜式的云端SD(stable diffusion)部署教程 - 白嫖4090、无需代码、一键启动
一、前言：为什么要云端部署stable diffusion? 前段时间一直在用midjourney进行Ai绘画，但是发现Midjourney绘画的限制有点多很死板，很多图都不能画，懂得都懂。想使用Midjourney可以看这个：（ 【推荐】Midjour...
-
StreamMultiDiffusion官网体验入口 AI实时生成图像处理工具免费使用地址
StreamMultiDiffusion是一个实时交互多文本到图像生成平台，用户可以根据指定的区域文本提示进行生成。通过操控含义而非颜色的画笔进行绘画创作。 点击前往StreamMultiDiffusion官网体验入口 StreamMultiDiffus...
-
官宣｜Apache Flink 1.19 发布公告
Apache Flink PMC（项目管理委员）很高兴地宣布发布 Apache Flink 1.19.0。与往常一样，这是一个充实的版本，包含了广泛的改进和新功能。总共有 162 人为此版本做出了贡献，完成了 33 个 FLIPs、解决了 600 多个问题...