-
SidebarDiagnostics体验报告：高效便捷，电脑硬件监控新利器，你确定不进来了解一下？
前言 嘿，各位小伙伴们，我是小江湖！今天我要给你们安利一款超级炫酷的软件！你是不是经常好奇自己的电脑到底在卖力工作还是偷偷打盹呢？哈哈，我也是！所以，当我发现这款宝藏软件时，简直是眼前一亮，心里那个激动啊，就像找到了失散多年的宝藏一样！ 这款软件啊，...
-
GPU训Llama 3.1疯狂崩溃，竟有大厂用CPU服务器跑千亿参数大模型？
马斯克19天建成由10万块H100串联的世界最大超算，已全力投入Grok3的训练中。 与此同时，外媒爆料称，OpenAI和微软联手打造的下一个超算集群，将由10万块GB200组成。 在这场AI争霸赛中，各大科技公司们卯足劲加大对GPU的投资，似乎在暗示着拥...
-
AI多模态实战教程：面壁智能MiniCPM-V多模态大模型问答交互、llama.cpp模型量化和推理
一、项目简介 MiniCPM-V 系列是专为视觉-语⾔理解设计的多模态⼤型语⾔模型（MLLMs），提供⾼质量的⽂本输出，已发布4个版本。 1.1 主要模型及特性 （1）MiniCPM-Llama3-V 2.5： 参数规模: 8B 性能: 超越...
-
政安晨【零基础玩转各类开源AI项目】基于Ubuntu系统部署ComfyUI：功能最强大、模块化程度最高的Stable Diffusion图形用户界面和后台
目录 ComfyUI的特性介绍 开始安装 做点准备工作 在Conda虚拟环境中进行 依赖项的安装 运行 政安晨的个人主页：政安晨 欢迎 ?点赞✍评论⭐收藏 收录专栏: 零基础玩转各类开源AI项目 希望政安晨的博客能够对...
-
Llamafile：简化LLM部署与分发的新选择
一、引言 在人工智能快速发展的今天，大型语言模型（LLM）作为自然语言处理（NLP）领域的核心力量，正在逐步改变我们的世界。然而，对于许多企业和开发者来说，LLM的部署和分发仍然是一个挑战。幸运的是，Llamafile的出现为我们提供了一个全新的解决方案...
-
音频转文字哪家强？faster-whisper还是paddlespeech,我的折腾吐槽记录
前言 作为一个魔武双修的python程序员，面对产品小姐姐提出的需求。我只能迎难而上。 目前开源的音频转文字都有哪些？效果如何？速度怎么样？带着这一连串的问题，我在github的海洋里畅游良久。接下来我把我的发现都记录如下。 1. paddles...
-
使用llama.cpp启动GPU模型计算
查询GPU使用状态： watch -n 0.5 nvidia-smi 使用GPU编译llama.cpp: make LLAMA_CUBLAS=1 用过make的记得删除项目，重新再以上执行命令，要不还...
-
项目实训：python whisper安装运行 实现语音识别技术
1.最好用python3.9以上的版本 2.安装whisper库 pip install -U openai-whisper 输入whisper查看是否安装成功 3.下载ffmpeg并添加环境变量 Releases · BtbN/FFmpeg...
-
分享个人 AI 绘画心得：Stable diffusion 入门引导教程
最近网络上已经有许多朋友都开始自己动手AI绘画，但是又不知道如何入手。在这里我稍微给大家引导入门，仅仅是入门引导哦，需要SD安装包的小伙伴文末扫码可获取~ 一、AI绘图电脑配置 搞AI绘图，首先是要看自己的电脑配置，如果是配置太低的电脑就不建议玩AI绘...
-
在 Kubernetes 上用 KubeBlocks + Dify 快速构建生产级 AIGC 应用
前言 在数字化时代，人工智能生成内容（AIGC）技术正以前所未有的速度改变着我们的世界。AIGC 不仅为内容创作者提供了强大的工具，还为企业带来了前所未有的商业机会。通过 AIGC，应用能够自动生成文本、图像、音频甚至视频，极大地提高了内容生产的效率和...
-
Training for Stable Diffusion
1.Training for Stable Diffusion 笔记来源： 1.Denoising Diffusion Probabilistic Models 2.最大似然估计(Maximum likelihood estimation 3.Und...
-
小文件写入性能 5 倍于 S3FS，JuiceFS 加速生信研究
在生物信息学研究领域，NextFlow 是一款主流数据分析工具，广泛应用于多种研究项目。MemVerge，内存融合基础架构厂商，其公有云计算平台产品 Memory Machine Cloud (MMCloud 无缝集成了 NextFlow，为生物信息学家...
-
【大模型】微调实战—使用 ORPO 微调 Llama 3
ORPO 是一种新颖微调（fine-tuning）技术，它将传统的监督微调（supervised fine-tuning）和偏好对齐（preference alignment）阶段合并为一个过程。这减少了训练所需的计算资源和时间。此外，实证结果表明，ORP...
-
【深度学习】stable-diffusion-webui AUTOMATIC1111 的参数解释翻译
https://github.com/AUTOMATIC1111/stable-diffusion-webui/wiki/Command-Line-Arguments-and-Settings 参数命令 值 默认值 描述 -h, -...
-
【NI-DAQmx入门】数据采集方法
1.单点、有限、软件定时 应用：探测电路，排除故障，打开/关闭灯泡 最基本的模拟数据采集类型是单点的、有限的、软件定时的模拟输入。这意味着一个单一的模拟值被从ADC中检索出来并被带入操作系统的存储器中。这种形式的数据采集...
-
努比亚Z60 Ultra领先版首发第六代屏下摄像技术：首次支持生成式AI融合计算
快科技7月27日消息，今日，努比亚手机举行新品发布会，正式推出努比亚Z60 Ultra领先版。 作为新机一大亮点，努比亚Z60 Ultra领先版采用第六代屏下摄像技术，搭载前摄灵透算法6.0，业界首次在屏下摄像技术中引入了生成式AI融合计算。 通过AI深...
-
第一款Zen5游戏本！华硕天选锐龙AI版发布：160W性能释放、16寸只有2.2kg
快科技7月22日消息，轻薄本灵耀16 Air、创作本ProArt创16/13全球首发AMD锐龙AI 300系列处理器之后，华硕又将其带到了游戏本之上，首先用于天选，但不是天选6，而是命名为华硕天选锐龙AI版”。 华硕天选锐龙AI版延续了该系列的二次元高颜值...
-
Stable Diffusion保姆级安装指南！（附2024安装包）
软件下载 [软件名称]：Stable Diffusion 4.8 [软件大小]：16.45G [安装环境]：Win10~Win11或更高 [下载通道]： 软件介绍 Stable Diffusion v4.8简称SD是目前最火的...
-
AI绘画工具SD的安装
目录 Stable Diffusion软件包的官方下载地址是什么？ 如何确保设备满足Stable Diffusion的硬件与软件要求？ 硬件要求 软件要求 Stable Diffusion安装过程中常见的问题及其解决方案有哪些？ 如何选择适...
-
OS Copilot测评
1.按照第一步管理重置密码时报错了,搞不懂为啥?本来应该跳转到给的那个实例的,我的没跳过去 2.下一步重置密码的很丝滑没问题 3安全组新增入库22没问题 很方便清晰 4.AccessKey 还能进行预警提示 5.远程连接,网速还是很...
-
本地私有化部署开源大模型完整教程：LangChain + Streamlit+ Llama 【LLM大模型】
在过去的几个月里，大型语言模型(llm 获得了极大的关注，这些模型创造了令人兴奋的前景，特别是对于从事聊天机器人、个人助理和内容创作的开发人员。 大型语言模型(llm 是指能够生成与人类语言非常相似的文本并以自然方式理解提示的机器学习模型。这些模型使...
-
AI算法画小姐姐，AMD显卡比顶级CPU快30倍！AMD Radeon显卡Stable Diffusion AI画图体验测试
从Stable Diffusion这一AI应用出现之后，在极短时间内就迅速走红，成为众多玩家口口相传的“最美小姐姐”生成工具。不过这一AI计算画图工具在Stable Diffusion官方推出之初，无论是WEB UI的部署还是模型的训练生成，都基本是基于N...
-
Llama - 微调
本文翻译整理自：https://llama.meta.com/docs/how-to-guides/fine-tuning 文章目录 微调 实验跟踪 Recipes PEFT LoRA torchtune Hugging Face PE...
-
大模型学习笔记3【大模型】LLaMA学习笔记
文章目录 学习内容 LLaMA LLaMA模型结构 LLaMA下载和使用 好用的开源项目[Chinese-Alpaca](https://github.com/ymcui/Chinese-LLaMA-Alpaca Chinese-Alpaca...
-
ai绘画部署教程
在部署AI绘画Web环境的过程中，你提供了一些关键步骤。以下是一些详细说明： 1. 克隆webui 首先，通过以下命令从GitHub上克隆webui的代码： git clone https://github.com/AUTOMATIC1111/...
-
如何使用阿里云AMD CPU云服务器（g8a）和龙蜥容器镜像，并基于Stable Diffusion模型搭建个人版文生图服务
Stable Diffusion是文本到图像的潜在扩散模型，它可以根据文本提示词生成对应的图像。Stable Diffusion模型是扩散模型的变种，可以通过逐步对随机高斯噪声进行去噪以获得感兴趣的样本。与传统生成模型相比，Stable Diffusion...
-
“全网最全”LLM推理框架集结营 - 看似微不足道，却决定着AIGC项目的成本、效率与性能!
00-前序 随着ChatGPT、GPT-4等大语言模型的出现，彻底点燃了国内外的学者们与企业家们研发LLM的热情。国内外的大语言模型如雨后春笋一般的出现，这些大语言模型有一部分是开源的，有一部分是闭源的。 伴随着大语言模型的出现，国内外基于大语言模型...
-
【AIGC】二、mac本地采用GPU启动keras运算
mac本地采用GPU启动keras运算 一、问题背景 二、技术背景 三、实验验证 本机配置 安装PlaidML 安装plaidml-keras 配置默认显卡 运行采用 CPU运算的代码 step1 先导入keras包，导入数据cifar...
-
深度解读昇腾CANN模型下沉技术，提升模型调度性能
本文分享自华为云社区《深度解读昇腾CANN模型下沉技术，提升模型调度性能》，作者：昇腾CANN。 AI模型的运行通常情况下需要CPU和NPU（昇腾AI处理器）等AI专用处理器协同工作，CPU所在位置称为主机端（Host），而NPU所在位置称为设备端（De...
-
深入了解语音识别：Distil-Whisper
Distil-Whisper模型概述 1.1 Distil-Whisper的背景与意义 随着语音识别技术的不断发展，模型的大小和计算复杂度成为了制约其广泛应用的重要因素。特别是在边缘设备和实时应用场景中，对模型的效率和性能提出了更高的要求。Dist...
-
Ubuntu安装大模型LLama，实操步骤
前言 因为国内镜像源不太清楚有没有最新的仓库源，我是推荐用科学上网工具，都已经玩大模型了，这个都没有的话就直接算了吧 这个是面向有一定的Linux使用经验的人员，有一些细节没有展开讲，而且每个人电脑环境都不同，就算严格按照步骤来，也有可能出现各种各...
-
Chinese-LLaMA-Alpaca-2模型量化部署&测试
简介 Chinese-LLaMA-Alpaca-2基于Meta发布的可商用大模型Llama-2开发, 是中文LLaMA&Alpaca大模型的第二期项目. 量化 模型的下载还是应用脚本 bash hfd.sh hfl/chinese-al...
-
国产大模型第一梯队玩家，为什么pick了CPU？
AI一天，人间一年。 现在不论是大模型本身，亦或是AI应用的更新速度简直令人直呼跟不上—— Sora、Suno、Udio、Luma……重磅应用一个接一个问世。 也正如来自InfoQ的调查数据显示的那般，虽然AIGC目前还处于起步阶段，但市场规模已初具雏形:...
-
数据库异常难定位？GaussDB(DWS)运维神器TopSQL来解决
本文分享自华为云社区《【云驻共创】GaussDB（DWS）运维利刃：TopSQL工具解析》，作者：金鱼哥。 在生产环境中，难免会面临查询语句出现异常中断、阻塞时间长等突发问题，如果没能及时记录信息，事后就需要投入更多的人力及时间成本进行问题的定位和解决，...
-
创意生图搭配酷炫特效，AIGC直播礼物多元玩法助力平台互动再升级
在刚刚过去的苹果开发者大会WWDC 2024上，苹果向全球开发者展现了他们最新的创新成果。除了备受瞩目的新系统更新，最令人激动的无疑是AI大模型的加盟，其中，Image Playground功能（一款强大的AI图片生成器）尤其亮眼。基于Image Play...
-
OpenAI之Whisper实时语音分析转文字
1.安装ffmpeg 2.安装python3.11 3.安装whisper pip install whisper conda环境安装whisper conda install whisper 命令行安装openai-whisper...
-
Stable-Diffusion 3 详细安装教程
文章目录 1、下载 ComfyUI 控制面板 1.1 如何打开ComfyUI 2、下载大模型 2.1 下载Stable-Diffusion 3 大模型 2.2 下载其它模型 3、下载 ComfyUI 汉化包 3.1 如何设置使用 4、亲身示...
-
【Stable Diffusion 3】本地部署SD3详细教程
? Hi, I’m @Beast Cheng ? I’m interested in photography, hiking, landscape… ? I’m currently learning python, javascript, kotlin…...
-
全网都在找的Stable Diffusion本地部署教程（小白100%成功）
1、Stable Difussion是完全免费的，部署在自己本地电脑上使用即可，软件完全免费，但是算力不免费，这就主要牵扯到显卡GPU上，当然cpu也有关系，但是关系比较小。 2、查看自己电脑相关配置信息，在电脑底部搜索栏搜索“任务管理器” 显卡（N卡）...
-
【小沐学AI】Python实现语音识别（whisperX）
文章目录 1、简介 1.1 whisper 1.2 whisperX 2、安装 2.1 安装cuda 2.2 安装whisperX 结语 1、简介 1.1 whisper https://arxiv.org/pdf/2...
-
视频多模态模型: VideoChat、Video-LLaMA、Video-ChatGPT、Video-LLaVA等
VideoChat VideoChat?: 基于视频指令数据微调的聊天机器人 https://arxiv.org/pdf/2305.06355.pdf https://github.com/OpenGVLab/Ask-Anything/tr...
-
Amuse .NET application for stable diffusion
Amuse github地址：https://github.com/tianleiwu/Amuse .NET application for stable diffusion, Leveraging OnnxStack, Amuse seamlessl...
-
第二十篇-推荐-纯CPU(E5-2680)推理-llama.cpp-qwen1_5-72b-chat-q4_k_m.gguf
环境 系统：CentOS-7 CPU： Intel® Xeon® CPU E5-2680 v4 @ 2.40GHz 14C28T 内存： 48G DDR3 依赖安装 make --version GNU Make 4.3 gcc --versi...
-
【LLM教程-llama】如何Fine Tuning大语言模型？
今天给大家带来了一篇超级详细的教程,手把手教你如何对大语言模型进行微调(Fine Tuning ！（代码和详细解释放在后文） 目录 大语言模型进行微调(Fine Tuning 需要哪些步骤？ 大语言模型进行微调(Fine Tuning 训练过程及代码...
-
【OrangePi AIpro】香橙派 AIpro运行大模型之Stable diffusion与 llama2
前言：在学生年代，小编用过香橙派4B、树莓派3B、树莓派4B、ROCK Pi4等开发板，每次拿到新开发板的时候，总会迫不及待地装上系统，当做一个小型电脑玩上一波，然后再将一些功能在上面实现或者将算法部署到上面，体验下性能的提升，相信每一个技术爱好者都如此，...
-
红魔9S Pro AI游戏手机、红魔游戏本等多款旗舰新品即将亮相
据红魔手机官方消息，红魔将于7月3日晚上19点举办一场盛大的新品发布会。在此次发布会上，多款旗舰级产品将正式亮相，包括红魔9S Pro AI游戏手机、红魔游戏本、红魔冰域机械键盘、红魔魔镜QD-OLED 电竞显示器（32 英寸）、红魔散热器5 Pro、氘锋...
-
深度解读昇腾CANN多流并行技术，提高硬件资源利用率
本文分享自华为云社区《深度解读昇腾CANN多流并行技术，提高硬件资源利用率》，作者：昇腾CANN。 随着人工智能应用日益成熟，文本、图片、音频、视频等非结构化数据的处理需求呈指数级增长，数据处理过程从通用计算逐步向异构计算过渡。面对多样化的计算需求，昇腾...
-
【Llama源码】旋转位置编码ROPE--源码阅读
旋转矩阵计算 rotary_emb 对应 L l a...
-
本地离线模型搭建指南-LLaMA-Factory训练框架及工具
搭建一个本地中文大语言模型（LLM）涉及多个关键步骤，从选择模型底座，到运行机器和框架，再到具体的架构实现和训练方式。以下是一个详细的指南，帮助你从零开始构建和运行一个中文大语言模型。 本地离线模型搭建指南将按照以下四个部分展开 中文大语言模型底座选...
-
【小沐学AI】Python实现语音识别（faster-whisper）
文章目录 1、简介 1.1 CTranslate2 1.2 Intel MKL 1.3 cuDNN 1.4 Transformer 2、下载和安装 2.1 命令行 2.2 代码 3、模型下载 3.1 在线测试 3.1.1 tiny...