-
异常检测算法在可观测性平台的落地和实践｜得物技术
一、背景 在稳定性保证中，重要的一个环节就是故障管理体系建设，故障管理体系的四大核心功能------故障发现、故障触达、故障定位和故障恢复，其中故障发现作为故障管理的第一步至关重要，包含了指标预测、异常检测和故障预测等方面，主要目标是能及时、准确地发现故...
-
GPU云服务器------2秒文生图
GPU云服务器------2秒文生图 GPU云服务器 AIGC来也 开通GPU服务 配置安全组规则 远程连接GPU云服务器 配置nginx用户 文生图 开启AiaccTorch 禁用AiaccTorch 切换模型 使用LoRA插件 使用Con...
-
英伟达Blackwell称霸MLPerf！推理性能暴涨30倍，新一代「AI怪兽」诞生
【新智元导读】MLPerf Inference发布了最新测试结果，英伟达最新的Blackwell架构芯片上场与谷歌、AMD同场竞技，展现出明显的性能提升，甚至刷新了部分任务上的测试纪录。 大语言模型（LLM）推理是一个全栈挑战。 为了实现高吞吐量、低延迟的...
-
让我们认真讨论一下“AI霸权”时代人类的命运
相信本怪盗团的读者大部分接受过高等教育，其中不乏名校毕业生。我们不妨回忆一下，自己的学生时代，最盼望从事什么职业?毕业后实际从事的又是什么职业?答案一定很多，但是万变不离其宗，其中大部分应该属于所谓“专业白领岗位”。 十多年前我读书的时候，互联网行业尚不流...
-
Stable diffusion ComfyUI: 手把手教AutoDL 云主机部署 （上）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、注册账号 二、部署云主机 三、主机配置 四、文件传输 总结 前言 有些小伙伴总问我使用ComfyUI的最低配置是什么？我只能说推荐3...
-
ubuntu系统编译whisper.cpp/talk-llama
1. 项目克隆到本地 git clone https://github.com/ggerganov/whisper.cpp 2. 编译 CPU 版本： sudo apt-get install libsdl2-dev cd whisper.cpp...
-
whisper安装
安装Whisper 首先需要下载ffmpeg并添加环境变量。打开网站：https://github.com/BtbN/FFmpeg-Builds/releases，选择压缩包并下载到本地。 解压后，找到bin文件夹下的“ffmpeg.exe”，将它复...
-
液冷技术：迎接AIGC时代数据中心的散热挑战
随着人工智能生成内容（AIGC）的跨越式发展，算力需求呈爆炸式增长，带动了数据中心的功耗和热管理需求的飞速上升。AI模型训练和推理过程中的高计算资源需求，导致服务器发热量大幅增加，对散热技术提出了更高的要求。根据Colocation America发布的数...
-
在Stable Diffusion中驱动Tesla P40
一、安装P40显卡 在前面我的“在win10电脑上搭建python环境下的本地AI绘画工具Stable Diffusion”博文中，Stable Diffusion的运行完全依赖CPU和内存，因此每生成一次图...
-
ChatGLM-6B入门
ChatGLM-6B ChatGLM-6B 一、介绍 ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡...
-
笔记本电脑本地部署ollama大模型（显存不足调用CUDA Unified Memory方法）
软硬件：win11,NVIDIA GeForce RTX 3050 显存4g 一.ollama模型最低要求 1. Llama 3.1 (8B 模型 GPU: 至少需要 1 张具有 16 GB 显存的 GPU（例如 NVIDIA Tesla V1...
-
ComfyUI系列——新手安装ComfyUI，就是这么简单！
前言 比较Midjoury、WebUI和ComfyUI 在了解ComfyUI的时候，还有其它两款类似的产品，于是就搜集了一下资料，以下是Midjoury、WebUI（通常指的是Stable Diffusion Web UI）和ComfyUI三者之间...
-
【LLM】一、利用ollama本地部署大模型
目录 前言 一、Ollama 简介 1、什么是Ollama 2、特点： 二、Windows部署 1.下载 2.安装 3.测试安装 4.模型部署： 5.注意 三、 Docker部署 1.do...
-
智能语音生成会议纪要的神器
嘿，技术爱好者们，今天我想分享一个令人兴奋的智能语音项目。它巧妙地结合了faster-whisper、Pyannote以及一系列先进的大语言模型，旨在为会议纪要的自动化生成带来新的可能。 开发了一个智能语音生成会议纪要的神器 在线体验：智能语音...
-
【AI绘画】分享个人 AI 绘画心得：Stable diffusion 入门引导教程
大家好，我是设计师子衿。 最近网络上已经有许多朋友都开始自己动手AI绘画，但是又不知道如何入手。在这里我稍微给大家引导入门。 一、AI绘图电脑配置 搞AI绘图，首先是要看自己的电脑配置，如果是配置太低的电脑就不建议玩AI绘图了。 Stable Di...
-
Llama-2-Open-Source-LLM-CPU-Inference 使用教程
Llama-2-Open-Source-LLM-CPU-Inference 使用教程 Llama-2-Open-Source-LLM-CPU-InferenceRunning Llama 2 and other Open-Source LLMs on...
-
1张Nvidia A100 80G部署Lamma3 70b 4bit的性能测试
这里写自定义目录标题 硬件 部署模型 硬件性能监控工具 GPU监控工具 CPU和系统内存监控工具 部署框架 命令 测试脚本与结果 输出定量token测试 prompt 脚本 Test Result 输入定量token测试 prom...
-
Datawhale AI夏令营第四期魔搭- AIGC方向 task02笔记
大纲 一、前言 二、代码块解读 2.1 依赖包安装 2.2 数据集下载 2.3 metadata.jsonl文件生成（图片及对应标签） 2.4 设置data-juicer 配置文件并执行，处理metadata.jsonl文件生成result....
-
comfyui入门｜超详细安装教程（汉化+管理器）
前言 今天我给大家分享的是怎么安装comfyUI。 网上安装comfyui的教程有很多，但是说的有点偏复杂了，特别是安装节点的时候，其实没那么难，这篇文章我就给大家分享下如何快速安装comfyui及各个节点的安装卸载。 其实刚开始我也摸索了很久，遇...
-
运行Llama 2于本地CPU上的开源LLM推理指南
运行Llama 2于本地CPU上的开源LLM推理指南 Llama-2-Open-Source-LLM-CPU-InferenceRunning Llama 2 and other Open-Source LLMs on CPU Inference Lo...
-
印度首款AI芯片来了！公司创始人被称为印度“马斯克”
快科技8月18日消息，据媒体报道，印度汽车制造商Ola近日宣布，将于2026年推出国内首款自研AI芯片，采用ARM架构。 Ola公司的创始人Bhavish Aggarwal，被誉为印度的马斯克”，他以其直言不讳的个性和对本地制造业的积极支持，与埃隆马斯克有...
-
锅炉引风机控制系统总体设计
锅炉引风机控制系统总体设计 系统功能分析 本系统锅炉自动控制系统，主要由进口变频器、可编程控制器、压力变送器、温度变送器和泵房机组以及电气控制柜等组成。根据设计要求，系统具有以下功能： (1 手动/自动控制 电动机起停控制要求具有自动和手动两种功能...
-
llama-factory源码详解——以DPO为例
本文记录了我在学习 llama-factory过程中对代码运行过程的梳理 代码入口——src/train.py from llamafactory.train.tuner import run_exp def main( : run_exp...
-
一键音频驱动图片数字人项目——EchoMimic(附整合包)
大家好，今天要给大家带来一个数字人相关项目——EchoMimic。该项目是由蚂蚁集团支付宝终端技术部出品，只需要一段音频和一个参考图片，EchoMimic就能让图片中的人物“活”起来。 我已制作好一键启动整合包和云端一键部署镜像方便大家快速上手体验！...
-
ComfyUI搭建教程
ComfyUI是一个功能丰富、高度可定制的Stable Diffusion操作界面，适合需要精细控制和高度自定义的用户。通过其模块化、低内存需求和快速启动等特点，ComfyUI为图像生成、AI研究、游戏开发等领域提供了强大的支持。 下载（需要科学上...
-
ComfyUI安装完整攻略
ComfyUI简介 ComfyUI是一种新型的Stable Diffusion用户界面，因其独树一帜的“节点式”界面，逐渐成为了AI绘画领域进阶玩家的得力武器。搭配各式各样的自定义节点与功能强大的工作流，它得以用更低的配置实现许多在WebUI等常规界面里...
-
LLama.cpp轻量化模型部署及量化
模型文件下载 首先说一下用到的模型，这次用的是Llama3-8B-Chinese-Chat-GGUF-8bit模型，想要快速的从huggingface下载模型可以参考我的另一篇博文。 从huggingface更快的下载模型 1.准备模型文件...
-
【Qwen-Audio部署实战】Qwen-Audio-Chat模型之对话机器人部署测试
系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...
-
基于飞桨框架的稀疏计算使用指南
本文作者-是 Yu 欸，华科在读博士生，定期记录并分享所学知识，博客关注者5w+。本文将详细介绍如何在 PaddlePaddle 中利用稀疏计算应用稀疏 ResNet，涵盖稀疏数据格式的础知识、如何创建和操作稀疏张量，以及如何开发和训练稀疏神经网络模型。...
-
这个除了会表达爱什么都不会的AI，凭什么能卖到7万块？
“它毛茸茸的，渴望得到关注。但更重要的是，它爱你。” 乍一看，它就像果宝特攻里的角色，神似橙留香，或菠萝吹雪。 上为LOVOT，下为果宝特攻 所以在第一眼看到它时，会让人感到熟悉又好奇。 它既是陈冠希喜爱的陪伴机器人。 也曾出演日本已故知名演员三浦春马的...
-
SenseVoice多语言语音理解模型之最新部署落地经验
SenseVoice是阿里云通义实验室开发的一款多语言音频基础模型，专注于高精度多语言语音识别、情感辨识和音频事件检测。 SenseVoice支持超过50种语言的识别，并且在中文和粤语上的识别效果优于Whisper模型，提升了50%以上。 SenseV...
-
【AI绘画】FLUX：这款新的人工智能图像生成器非常善于创造人手
FLUX.1 是 Stable Diffusion 的公开重量级继承者，可将文本转化为图像。 FLUX.1 dev 生成图像：“A beautiful queen of the universe holding up her hands, face in...
-
AMD 48亿元成功收购欧洲第一Silo AI：苏姿丰亲自热烈欢迎
AMD近日宣布，已经完成对欧洲最大私人AI实验室Silo AI的收购工作，交易价值约6.65亿美元，折合人民币48亿元左右，全现金支付。 这也是最近10年来，欧美最大的一笔AI科技企业并购案。 上次的爆炸性AI收购，还要追溯到2014年，Google斥资约...
-
Whisper JAX 深度使用指南
Whisper JAX 深度使用指南 whisper-jaxJAX implementation of OpenAI's Whisper model for up to 70x speed-up on TPU.项目地址:https://gitcode....
-
实操: 如何在AirBox上跑Stable Diffusion 3
以下文章来源于Radxa ，作者瑞莎 Stable Diffusion 3 Medium 是一种多模态扩散变换器 (MMDiT 文本到图像模型，在图像质量、排版、复杂提示理解和资源效率方面具有显著提升的性能。 目前瑞莎团队使用 Stab...
-
【Datawhale AI夏令营第四期】魔搭-AIGC方向 Task01笔记
报名参加了和鲸的AI夏令营，出于任务要求，也出于我一贯的学习习惯，写篇笔记记录一下自己学习过程中遇到的困难，和积累的资源、经验等。 课程链接： https://space.bilibili.com/1069874770/channel/collect...
-
【AIGC】ComfyUI入门-安装ComfyUI
栏目： 栏目目录里面会收录我关于AIGC相关的笔记博文，大家如果有什么不懂的可以通过阅读我的笔记进行学习。【AIGC目录】 最近自己在抽时间研究ComfyUI相关的内容，抽时间整理一下自己了解到的内容，希望可以帮到其他想要学习的小伙伴。 安装Co...
-
Linux 常用命令最全总结大全【推荐收藏】
小伙伴们好，欢迎关注，一起学习、无限进步 文章目录 一、文件和命令 1、cd 命令 2、pwd 命令 3、ls 命令 4、cp 命令 5、mv 命令 6、rm 命令 二、查看文件内容 7、cat 命令 三、文件搜索 8、find...
-
开源项目Llama.cpp指南
开源项目Llama.cpp指南 llama.cppPort of Facebook's LLaMA model in C/C++项目地址:https://gitcode.com/gh_mirrors/ll/llama.cpp 1. 项目介绍 Ll...
-
大模型笔记之-Llama-3.1-405B-Instruct-FP8离线部署[8*A800] 基于vLLM 版本v0.5.3.post1
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、硬件环境 二、软件环境 三 . 模型下载 1.环境准备 新建 conda虚拟环境 安装vLLM 启动命令 启动日志截取 FP8 量化损失 对接...
-
智能汽车AI芯片第一股！黑芝麻智能在港交所上市
快科技8月8日消息，智能汽车AI芯片第一股黑芝麻智能于今日在港交所挂牌上市。 根据公告，黑芝麻智能香港IPO发行价定为每股28港元，拟全球发售3700万股股份，筹资10.36亿港元。 数据显示，黑芝麻智能上市首日低开，当前稳定在20港元左右。 据悉，黑芝麻...
-
[AI]如何在本地windows运行llama模型（CPU可运行）
一、为什么我们要在本地运行llama模型？ 想必大家已经体验过GPT， Claude，亦或是国内开源的GLM，这些强大的模型了，但是这些大模型虽然强大但有的要么收费，要么在本地部署对硬件要求高，要么就是本地部署的配置繁琐，对小白很不友好。...
-
Llama-2 vs. Llama-3：利用微型基准测试（井字游戏）评估大模型
编者按： 如何更好地评估和比较不同版本的大语言模型？传统的学术基准测试固然重要，但往往难以全面反映模型在实际应用场景中的表现。在此背景下，本文作者别出心裁，通过让 Llama-2 和 Llama-3 模型进行井字游戏对决，为我们提供了一个新颖而有趣的模型评...
-
快速体验LLaMA-Factory 私有化部署和高效微调Llama3模型（曙光超算互联网平台异构加速卡DCU）
序言 本文以 LLaMA-Factory 为例，在超算互联网平台SCNet上使用异构加速卡AI 显存64GB PCIE，私有化部署Llama3模型，并对 Llama3-8B-Instruct 模型进行 LoRA 微调、推理和合并。 快速体验基础版本，...
-
Ubuntu部署Stable Diffusion WebUI应用
本文主要讲述Ubuntu部署Stable Diffusion WebUI应用的部署教程，及在部署过程中可能遇到的问题及解决方法。 1. 部署教程 本次安装教程使用的系统配置是: CPU ：10核，内存：220GB GPU ：L20，...
-
小米澎湃OS 2曝光：主攻方向是AI
快科技8月3日消息，博主数码闲聊站爆料，{tag_keyurl_2} 2新系统的主攻方向是AI，这次澎湃OS将会在全场景贯彻落地AI功能。 目前AI功能已在澎湃OS上线，比如小米14 Ultra首发的AI大模型计算摄影平台Xiaomi AISP。 小米工程...
-
Ai绘画工具Stable Diffusion，手把手教你训练你的专属Lora模型，神级教程建议收藏！
哈喽，大家好，我是设计师阿威。 今天给大家带来的是Stable Diffusion训练Lora的教程，希望对大家有帮助。 一、硬件要求 我们知道Stable Diffusion WebUI对显卡要求比较高，同样Lora训练对显卡要求更高，所以要想训练...
-
175道Docker面试题（上）
目录 1、什么是docker？ 2、Docker与普通虚拟机的对比： 3、Docker常用命令： 4、Docker镜像是什么？ 5、Docker容器是什么？ 6、Docker容器有几种状态？ 7、Dockerfile中最常见的指令是什么？...
-
冯诺依曼体系结构与操作系统
冯诺依曼体系结构以及操作系统初步理解 冯诺依曼体系 操作系统 冯诺依曼体系 如下图： 那么为什么计算机当今都还要采用这种设计模式呢？ 我们为什么不能让用户通过外设输入后通过cpu处理直接输出显示呢？ 下面我们先来了解一些硬件的基本...
-
媲美Midjourney-v6，Kolors最新文生图模型部署
Kolors模型是由快手团队开发的大型文本到图像生成模型，专门用于将文本描述转换成高质量的图像。 Kolors模型支持中英文双语输入，生成效果与Midjourney-v6相媲美，能够处理长达256个字符的文本输入，具备生成中英文文字的能力。 Kolor...