-
24最新Stable Diffusion Lora模型训练详细教程！
前言 1. 介绍 通过Lora小模型可以控制很多特定场景的内容生成。 但是那些模型是别人训练好的，你肯定很好奇，我也想训练一个自己的专属模型（也叫炼丹～_～）。 甚至可以训练一个专属家庭版的模型（family model），非常有意思。 将自...
-
使用 GaLore 预训练LLaMA-7B
项目代码： https://github.com/jiaweizzhao/galorehttps://github.com/jiaweizzhao/galore 参考博客： https://zhuanlan.zhihu.com/p/686686751...
-
绘唐3高级推理创作-小说推文工具AIGC阿祖
绘唐3高级推理创作https://qvfbz6lhqnd.feishu.cn/wiki/D3YLwmIzmivZ7BkDij6coVcbn7W Title: "The Mysteries of Tang Dynasty - Advanced Deduct...
-
ERROR: Failed to build installable wheels for some pyproject.toml based projects (llama-cpp-python)
Building wheels for collected packages: llama-cpp-python Building wheel for llama-cpp-python (pyproject.toml ... error erro...
-
7年8次出手收购，AI时代的流量王者也焦虑？
7月31日，Canva 宣布收购总部位于澳大利亚的 AI 生图产品 Leonardo.ai。据了解，此次收购金额可能会达到3亿美金，是去年12月 Leonardo.ai A 轮融资时估值的4倍。收购之后，Leonardo.ai 全部员工都将加入 Canva...
-
Midjourney中秋特典-12张图附魔咒
第一张 魔咒 A Mid-Autumn Festival poster, a round bright moon, a Chinese-style pavilion with a scene of a reunion from Dream of t...
-
`ModuleNotFoundError: No module named ‘whisper‘`
/home/shgbitai/pythonworkspace/ai-accompany/venv/bin/python /home/shgbitai/pythonworkspace/ai-accompany/main.py Traceback (most...
-
GPT和Copilot联手，AI编程进入新纪元
❤️作者主页：小虚竹 ❤️作者简介：大家好,我是小虚竹。2022年度博客之星?，Java领域优质创作者?，CSDN博客专家?，华为云享专家?，掘金年度人气作者?，阿里云专家博主?，51CTO专家博主? ❤️技术活，该赏 ❤️点赞 ? 收藏 ⭐再...
-
用TensorRT-LLM进行LLama的推理和部署
Deploy an AI Coding Assistant with NVIDIA TensorRT-LLM and NVIDIA Triton | NVIDIA Technical BlogQuick Start Guide — tensorrt_llm...
-
五一 Llama 3 超级课堂 | LMDeploy 高效部署 Llama3 实践笔记
准备环境与模型 环境配置 conda create -n lmdeploy python=3.10 conda activate lmdeploy conda install pytorch==2.1.2 torchvision==0.16.2 torc...
-
llama网络结构及源码
目录 模型初始化 config lm_head transformer wte h rms_1/rms_2 attn c_attn c_proj 线性层mlp ln_f rope_cache mask_cache kv_cac...
-
万字长文｜LLM大模型基础入门（非常详细）从入门到精通系列之：（三）Transformer 架构
...
-
使用 Ollama、Llama 3.1 和 Milvus 实现Function Calling 功能
将函数调用（Function Calling）与 LLM 相结合能够扩展您的 AI 应用的能力。通过将您的大语言模型（LLM）与用户定义的 Function 或 API 集成，您可以搭建高效的应用，解决实际问题。 本文将介绍如何将 L...
-
Alluxio Enterprise AI on K8s 部署教程
? Alluxio Enterprise AI on K8s 部署教程 ? 链接为Alluxio Enterprise AI on K8s 部署视频教程。下面内容将通过文字方式主要介绍如何通过 Operator（Kubernetes 管理应用程序的扩展）在...
-
【论文速读】|RO-SVD：一种用于 AIGC 应用的可重构硬件版权保护框架
本次分享论文：RO-SVD: A Reconfigurable Hardware Copyright Protection Framework for AIGC Applications 基本信息 原文作者：Zhuoheng Ran, Muhammad...
-
VAE（Variational auto-encoder）
1.VAE（Variational auto-encoder） 笔记来源及推荐文章： 1.变分自编码器（一）：原来是这么一回事 2.变分自编码器（二）：从贝叶斯观点出发 3.变分自编码器（三）：这样做为什么能成？ 4.变分自编码器（四）：一步到位的聚类...
-
秘密 llama：全栈式私有LLM聊天机器人指南
秘密 llama：全栈式私有LLM聊天机器人指南 secret-llamaFully private LLM chatbot that runs entirely with a browser with no server needed. Suppor...
-
在Ubuntu22.04 使用stable-diffusion-webui 秋叶整合包
背景 众所周知，赛博菩萨已经发布了windows下的整合包，开箱即用，且集成度较高。 那我为啥非要在Ubuntu下使用呢？ 当然是因为主力机就是Ubuntu系统啦。而且涉及到sd webui API 的调用，在Ubuntu 下调试更加方便一点。 那有...
-
Whisper-Dictation：基于OpenAI语音转文本模型的开源录音转文字应用
Whisper-Dictation：基于OpenAI语音转文本模型的开源录音转文字应用 whisper_dictation Fast! Offline, privacy-focused, hands-free voice typing, 2-way...
-
分享一个AI开发者的强力助手：openMind Library
在人工智能的浪潮中，深度学习开发套件 openMind Library，以其强大的功能和易用性，逐步成为AI开发者们的强力助手。本文将通过魔乐社区近期关注挺高的大模型平台魔乐社区，深入了解openMind Library。 openMind Librar...
-
一文彻底搞懂 Fine-tuning - 超参数（Hyperparameter）
最近这一两周看到不少互联网公司都已经开始秋招提前批了。不同以往的是，当前职场环境已不再是那个双向奔赴时代了。求职者在变多，HC 在变少，岗位要求还更高了。 最近，我们又陆续整理了很多大厂的面试题，帮助一些球友解惑答疑，分享技术面试中的那些弯弯绕绕。 《...
-
从【人工智能】到【计算机视觉】，【深度学习】引领的未来科技创新与变革
前几天偶然发现了一个超棒的人工智能学习网站，内容通俗易懂，讲解风趣幽默，简直让人欲罢不能。忍不住分享给大家，点击这里立刻跳转，开启你的AI学习之旅吧！ 前言 – 人工智能教程https://www.captainbed.cn/lzx 1. 引言...
-
本地搭建和运行Whisper语音识别模型小记
搭建本地的Whisper语音识别模型可以是一个非常有用的项目，尤其是在需要离线处理语音数据的情况下。Whisper是OpenAI开发的一个开源语音识别模型，支持多语言和高效的转录能力。以下是详细的步骤来本地搭建和运行Whisper语音识别模型： 1....
-
【06】LLaMA-Factory微调大模型——微调模型评估
上文【05】LLaMA-Factory微调大模型——初尝微调模型，对LLama-3与Qwen-2进行了指令微调，本文则介绍如何对微调后的模型进行评估分析。 一、部署微调后的LLama-3模型 激活虚拟环境，打开LLaMA-Factory的webui页面...
-
【保姆级讲解下AI绘画自动生成器有哪些?】
?博主：程序员不想YY啊 ?CSDN优质创作者，CSDN实力新星，CSDN博客专家 ?点赞?收藏⭐再看?养成习惯 ✨希望本文对您有所裨益，如有不足之处，欢迎在评论区提出指正，让我们共同学习、交流进步！ ?AI绘画自动生成器 ?人工智能(AI 绘...
-
使用 Ollama、Llama 3.1 和 Milvus 进行函数调用案例
偶然看到一篇很短代码就能实现llama function call的文章。 秉着学习加分项的原则，进行了实验测试。这里给出案例和全部改写后的代码。 将 LLM 与函数调用相结合，就如同赋予您的 AI 连接世界的能力。通过将您的 LLM 与外部工具（例如用...
-
论文分析｜高效长文本生成的技术与应用
Preface 前言 目前大模型公司很多在追求长文a本， 对算力需求极大，如何能够现实地处理该问题很重要。特别是随着Transformer模型尺寸和复杂性的增长，它们在训练期间的内存需求呈指数级增加。 语言模型训练的瓶颈在于显存占用非常大，这需要创...
-
Karpathy狂赞AI代码神器Cursor，直言回不到3年前无辅助编码了，却被指「带货」
热衷于开课并与网友分享新技术使用心得的 AI 大牛 Karpathy，也有被质疑「为推销某个产品而在言论中夹带私货」的一天。 这是怎么一回事呢? 昨天，Karpathy 分享了自己结合使用 AI 代码编辑器与大模型的心得体验，并发出了由衷的感叹:编程领域变...
-
基于autodl与llama-factory部署llama3-8B开源大模型
一、注册与购买autodl实例 注册了autodl账号以后，我们便可以在网站首页看到具体的实例信息，同时能够观察其具体的系统盘与数据盘以及缓存大小，对于我们即将微调的llama3开源大模型来说，通过资料的查询了解，我们只需要24G显存就可...
-
部署本地语音聊天机器人：在Seeed Studio reComputer Jetson上部署Riva和Llama2
本地语音聊天机器人：在Seeed Studio reComputer Jetson上部署Riva和Llama2 所有教程都免费开源，请动动小手点个小星星https://github.com/Seeed-Projects/jetson-examples...
-
AIStarter更新ollama+openwebui教程，使用千问2和llama3.1最新大模型
熊友们，从易到难啊，整合包做起来相对复杂一些，咱可以先学习一下怎么在AIStarter里面升级AI项目，因为Docker用不了，什么原因咱不知道，所以很多熊友迫切的希望熊哥更新ollama+openwebui这个项目，那就以这个项目为例，给大家演示一下熊哥...
-
Stable Diffusion | Gradio界面设计及webUI API调用
本文基于webUI API编写了类似于webUI的Gradio交互式界面，支持文生图/图生图（SD1.x，SD2.x，SDXL），Embedding，Lora，X/Y/Z Plot，ADetailer、ControlNet，超分放大（Extras），图片信...
-
Xinference安装及部署大模型
1. Xinference 介绍 Xorbits Inference (Xinference 是一个开源平台，用于简化各种 AI 模型的运行和集成。借助 Xinference，您可以使用任何开源 LLM、嵌入模型和多模态模型在云端或本地环境中运行推理...
-
【多模态大模型】LLaMA in arXiv 2023
一、引言 论文： LLaMA: Open and Efficient Foundation Language Models作者： Meta AI代码： LLaMA特点： 该方法在Transformer的基础上增加了Pre-normalization (...
-
Python虚拟环境：使用venv隔离项目依赖
前言 在开发Python项目时，管理项目的依赖关系是一个常见的挑战。不同项目可能需要不同版本的库，如果不加以管理，很容易导致依赖冲突和环境混乱。幸运的是，Python提供了虚拟环境（virtual environment）的解决方案，帮助我们隔离项目依...
-
论文阅读-Transformer Layers as Painters
1. 摘要 尽管大语言模型现在已经被广泛的应用于各种任务，但是目前对其并没有一个很好的认知。为了弄清楚删除和重组预训练模型不同层的影响，本文设计了一系列的实验。通过实验表明，预训练语言模型中的lower和final layers与中间层分布不一致，并且...
-
和AI「赛博爱情」的时代已经到来
【新智元导读】AI赛博恋人正变得越来越受欢迎，Replika CEO甚至鼓励人们与AI结婚。然而，这是否是一种饮鸩止渴?通过梳理近20篇国外论文，我们还原了学术界对「人机之恋」的研究面貌。 人和机器之间真的能够产生「爱情」吗? 计算机运算先驱、人机之恋旗手...
-
Perplexity热度爆表，单月搜索量达2.5亿是去年一半，AI搜索让谷歌掉队？
【新智元导读】AI搜索需求市场广阔，Perplexity搜索在上个月回答了大约2.5亿个问题，预期收入猛增7倍。 最近，人工智能搜索引擎市场持续「升温」。 一方面，市占率90%以上的搜索界「一哥」谷歌正在将Gemini集成到搜索引擎中; 另一方面，Open...
-
模板初阶（详解）
一、泛型编程 为了引出模板，我们来看下面代码，比如要实现不同类型的交换函数，如下： void Swap(int& a, int& b { int c = a; a = b; b = c; } void Swap(char&...
-
类和对象(上)
一、类的定义 类有点类似c语言的结构体是一种自定义类型，但类里面除了定义一些成员变量外还有方法(成员函数 ，在访问的时候要指定类域。 在类定义时首先用一个class关键字，在后面接着类的名字，然后使用{ }在花括号里面定...
-
【愚公系列】《AIGC辅助软件开发》005-AI智能化编程助手：Bito
? 作者简介，愚公搬代码 ?《头衔》：华为云特约编辑，华为云云享专家，华为开发者专家，华为产品云测专家，CSDN博客专家，CSDN商业化专家，阿里云专家博主，阿里云签约作者，腾讯云优秀博主，腾讯云内容共创官，掘金优秀博主，亚马逊技领云博主，51CTO博客专...
-
Exponential Moving Average (EMA) in Stable Diffusion
1.Moving Average in Stable Diffusion (SMA&EMA 1.Moving average 2.移动平均值 3.How We Trained Stable Diffusion for Less than $5...
-
AIGC 文生图 DiffSynth-Studio微调lora训练案例
参考： https://github.com/modelscope/DiffSynth-Studio https://github.com/modelscope/DiffSynth-Studio/tree/main/examples/train/kolor...
-
微调 Whisper 语音大模型
1.准备环境 #创建环境 conda create -n whisper python=3.10 -y source activate whisper #安装环境 conda install pytorch==2.1.0...
-
跟《经济学人》学英文：2024年08月03日这期 GPT, Claude, Llama? How to tell which AI model is best
GPT, Claude, Llama? How to tell which AI model is best Beware model-makers marking their own homework 原文： When Meta, the p...
-
大模型笔记之-Llama-3.1-405B-Instruct-FP8离线部署[8*A800] 基于vLLM 版本v0.5.3.post1
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、硬件环境 二、软件环境 三 . 模型下载 1.环境准备 新建 conda虚拟环境 安装vLLM 启动命令 启动日志截取 FP8 量化损失 对接...
-
llama-agentic-system
文章目录 一、关于 llama-agentic-system 二、LLama代理系统安装和设置指南 1、创建Conda环境 2、运行FP8 3、作为包安装 4、测试安装 5、下载检查点（或使用现有模型） 6、配置推理服务器配置 7、运行推理服...
-
Stable Diffusion如何训练属于自己的Lora模型
Stable Diffusion如何训练属于自己的Lora模型 前面（Stable diffusion的本地部署以及使用）介绍了那么多，相信你一定对Stable Diffusion有了一定的认知，那么你是否也在想：我下载的都是别人训练的模型，那我该怎么...
-
基于C#调用文心一言大模型制作桌面软件(可改装接口)
目录 开发前的准备 账号注册 应用创建 应用接入 开始开发 创建项目 设计界面 使用 AK，SK 生成鉴权签名 窗体代码 百度智能云千帆大模型平台 什么是百度智能云千帆大模型平台 模型更新记录 开发前的准备 账号注册...
-
AI绘画 | 只要10步让你在英特尔A770显卡下安装ComfyUI运行StableDiffusion3最新开源模型
安装所需文件和模型已经打包好了，提前下载。SD3模型有点大，10G左右 本教程安装所需文件：https://pan.quark.cn/s/d6b9c8d4ca27 SD3模型：https://pan.quark.cn/s/037ae37f1884 ...