-
Alluxio Enterprise AI on K8s FIO 测试教程
? Alluxio Enterprise AI on K8s测试教程 ? 链接为Alluxio Enterprise AI on K8s FIO测试视频教程。 fio 是业内 常用的磁盘与文件系统性能测试工具，下面内容将通过文字方式介绍Alluxio on...
-
LLM | llama.cpp 安装使用（支持CPU、Metal及CUDA的单卡/多卡推理）
1. 详细步骤 1.1 安装 cuda 等 nvidia 依赖（非CUDA环境运行可跳过） # 以 CUDA Toolkit 12.4: Ubuntu-22.04/24.04(x86_64 为例，注意区分 WSL 和 Ubuntu，详见 http...
-
使用 CTranslate2 实现 Faster Whisper 的加速转录
使用 CTranslate2 实现 Faster Whisper 的加速转录 近年来，语音识别技术得到了快速发展。OpenAI 的 Whisper 模型作为其中的佼佼者，以其高精度和强大的性能广受欢迎。然而，其较长的推理时间和高内存消耗也成为了限制其应...
-
【AI画图】stable-diffusion-webui学习之一《安装部署》
简介 Stable Diffusion是2022年发布的深度学习文本到图像生成模型，它是一种潜在扩散模型，它由创业公司Stability AI与多个学术研究者和非营利组织合作开发。目前的SD的源代码和模型都已经开源，在Github上由AUTOMATIC...
-
AI PC（智能电脑）技术分析
一文看懂AI PC（智能电脑） 2024年，英特尔、英伟达等芯片巨头革新CPU技术，融入AI算力，为传统PC带来质的飞跃，引领智能计算新时代。 2024年，因此被叫作人工智能电脑（AI PC）的“元...
-
【AI学习】AI绘画发展简史
无意中读了一篇发表自2022年的文章，《AI绘画何以突飞猛进? 从历史到技术突破, 一文读懂火爆的AI绘画发展史》，写的比较有意思，科普了好多我原来不知道的历史。 简单提炼一下，做个笔记。 AI绘画重要事件 2012年 Google两位大名鼎鼎的...
-
Whisper JAX：闪电般快速的语音识别框架
Whisper JAX：闪电般快速的语音识别框架 whisper-jaxJAX implementation of OpenAI's Whisper model for up to 70x speed-up on TPU.项目地址:https://gi...
-
【AIGC】ComfyUI安装及常见问题cuda及pytorch安装教程
说明：ComfyUI安装方式有很两种，第一种是下载独立包。独立包下载到本地后，即可使用。不需要搭建（安装）python、cuda、cudnn、pytorch环境. 第二种是，手动安装。手动安装要复杂很多，需要搭建开发环境，即安装python、cuda、c...
-
Chinese-Vicuna: 一个基于LLaMA的中文指令跟随模型
Chinese-Vicuna简介 Chinese-Vicuna是一个基于LLaMA的中文指令跟随模型，由研究者开发，旨在以低资源的方式实现高效的中文语言模型训练。该项目的主要目标是构建和分享可以在单个Nvidia RTX-2080TI上训练的中文指令跟随...
-
AMD发布首个AI小语言模型：6900亿token、推测解码提速3.88倍
快科技10月1日消息，AMD发布了自己的首个小语言模型(SLM ，名为AMD-135M”。 相比于越来越庞大的大语言模型(LLM ，它体积小巧，更加灵活，更有针对性，非常适合私密性、专业性很强的企业部署。 AMD-135小模型隶属于Llama家族，有两个版...
-
Windows安装docker，启动ollama运行open-webui使用AIGC大模型写周杰伦歌词
Windows安装docker，启动ollama运行open-webui使用AIGC大模型写周杰伦歌词 1、下载docker的Windows版本。 docker下载地址： https://docs.docker.com/desktop/insta...
-
【AI绘画教程】ComfyUI基础篇：小白都可以学会的ComfyUI安装教程（原生版安装包）
大家好，我是程序员晓晓 自从Flux这一款最新黑马文生图模型推出以来，Flux的浪潮正以不可阻挡之势席卷全球，目前本地电脑环境要玩Flux, 支持方式主要是ComfyUI。但是ComfyUI工具安装一直是很多小白比较困惑的地方，在和小伙伴的私下留言中，C...
-
使用 GaLore 预训练LLaMA-7B
项目代码： https://github.com/jiaweizzhao/galorehttps://github.com/jiaweizzhao/galore 参考博客： https://zhuanlan.zhihu.com/p/686686751...
-
Whisper ASR Webservice 使用教程
Whisper ASR Webservice 使用教程 whisper-asr-webserviceOpenAI Whisper ASR Webservice API项目地址:https://gitcode.com/gh_mirrors/wh/whis...
-
超强AI绘画工具StableDiffusion，SD整合包V4.9 来了 版本win加mac安装包以及搭载PS安装说明
众所周知，StableDiffusion 是非常强大的AI绘图工具，今天为大家带来的是 Stable Diffusion SD整合包v4.9 版本安装说明 。 这里带来的安装版本是9月最新整合包sd-webui-aki-v4.9 版本 。WIN加MAC...
-
LlamaFactory可视化微调大模型 - 参数详解
LlamaFactory 前言 LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。 可以适应不同的模型架构和大小。 支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation...
-
AIGC大模型扩图：Sanster/IOPaint（4）
AIGC大模型扩图：Sanster/IOPaint（4） 用大模型实现AI扩大一张图的周边区域，变得更大，当然必须契合原图，和原图浑然一体。 1、这次模型换用 Sanster/PowerPaint-V1-stable-diffusion-inp...
-
AI绘画实操 Stable Diffusion 到底怎么玩儿，新手必看的AI绘画入门安装使用教程
大家好，我是灵魂画师向阳 2024年，是AI绘画技术飞速发展的一年，各种AI绘画工具层出不穷，为了让大家在了解和学习AI绘画的过程中少走弯路，今天我将详细介绍目前世界上使用用户最多，社区最大，生态最丰富的免费图像生成模型——Stable Diffusio...
-
AI绘画SDWebUI-Foge运行最强开源 Flux1.0大模型，低显存设备也能跑！让你轻松制作高质量图片！
大家好！我是程序员晓晓 最近AI绘画开源社区又开始发力了，lllyasviel（敏神）——ControlNet的作者刚才发布了一款Flux1-dev-bnb-nf4-v2模型，这个版本最大的优势就是能让低显存的设备也能运行，这个低到底有多低呢？ 实测下...
-
DataWhale Task02：从零预训练一个tiny-llama 20923
DataWhale Task02：从零预训练一个tiny-llama 20923 原文link：https://github.com/KMnO4-zx/tiny-llm 开源内容：https://github.com/datawhalechina/t...
-
三星推出Galaxy Tab S10系列平板：搭载天玑9300 、优化AI性能
快科技9月27日消息，据媒体报道，三星推出了Galaxy Tab S10系列平板电脑，包括Galaxy Tab S10 Ultra和Galaxy Tab S10 两款产品，搭载联发科天玑9300 ，首次在其旗舰平板电脑中搭载联发科芯片。 据悉，天玑9300...
-
最强服务器CPU来了！AI性能直接翻倍
服务器CPU领域持续多年的核心数量大战，被一举终结了! 英特尔最新发布的至强®6性能核处理器（P-core系列），超越了过去单一维度的竞争，通过“升维”定义了新的游戏规则: 在过去，CPU升级换代往往要在单个芯片上集成更多的核心，但这难免会受到工艺和芯...
-
AI几小时设计芯片超越人类！谷歌AlphaChip登Nature，已设计出三代旗舰TPU
【新智元导读】谷歌的AlphaChip，几小时内就能设计出芯片布局，直接碾压人类专家!这种超人芯片布局，已经应用在TPU、CPU在内的全球硬件中。人类设计芯片的方式，已被AI彻底改变。 能设计芯片的AI黑科技来了! 就在刚刚，谷歌DeepMind推出名为A...
-
`ModuleNotFoundError: No module named ‘whisper‘`
/home/shgbitai/pythonworkspace/ai-accompany/venv/bin/python /home/shgbitai/pythonworkspace/ai-accompany/main.py Traceback (most...
-
用TensorRT-LLM进行LLama的推理和部署
Deploy an AI Coding Assistant with NVIDIA TensorRT-LLM and NVIDIA Triton | NVIDIA Technical BlogQuick Start Guide — tensorrt_llm...
-
Stable Diffusion秋叶整合安装包下载 Windows版 SD一键安装包启动器
本次整合包升级内容： torch2、xformers0.0.17、cudnn 8.8打开无需任何操作即可满速(包括40系显卡 升级其它各种依赖版本预置了Tagger(图反推关键词 的模型预置了ControlNet、MultiDiffusion插件优化了...
-
Llama 3.1 技术研究报告-2
3.3 基础设施、扩展性和效率 我们描述了⽀持Llama 3 405B⼤规模预训练的硬件和基础设施，并讨论了⼏项优化措施，这些措施提⾼了训练效率。 3.3.1 训练基础设施 Llama 1和2模型在Meta的AI研究超级集群（Lee和Sengup...
-
在线教程丨超大模型部署无压力！一键运行 Llama 3.1 405B 和 Mistral Large 2
作者：李宝珠 编辑：xixi、李宝珠 HyperAI超神经为大家上线了 Llama 3.1 405B 和 Mistral Large 2407 的一键部署教程，无需输入任何命令，只需点击「克隆」即可体验。 当地时间 7 月 23 日...
-
Whisper-CPP：CPU-AI语音识别的天才，CosyVoice - 阿里最新开源语音克隆、文本转语音项目 一键整合包下载，GPT-4o实时语音方案Livekit开源voice agent音视频
Whisper-CPP：CPU-AI语音识别的天才，CosyVoice - 阿里最新开源语音克隆、文本转语音项目 一键整合包下载，GPT-4o实时语音方案Livekit开源voice agent音视频。 使用Streamlit和wheaster.CP...
-
编译运行 llama.cpp (vulkan, Intel GPU SYCL)
llama.cpp 是一个运行 AI (神经网络 语言大模型的推理程序, 支持多种 后端 (backend , 也就是不同的具体的运行方式, 比如 CPU 运行, GPU 运行等. 但是编译运行 llama.cpp 并不是那么容易的, 特别是对于 SY...
-
OpenAI开启推理算力新Scaling Law，AI PC和CPU的机会来了
OpenAI的新模型o1，可谓是开启了Scaling Law的新篇章—— 随着更多的强化学习（训练时计算）和更多的思考时间(测试时计算 ，o1在逻辑推理能力上已经达到了目前天花板级别。 尤其是在北大给出的一项评测中，o1-mini模型的跑分比o1-prev...
-
大模型之使用PyTorch编写Meta的Llama 3实际功能代码（六）
LlaMA 3 系列博客 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一） 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二） 基于 LlaMA 3 + LangGraph 在w...
-
[1305]whisper(音转文)使用教程
文章目录 实时录制音频并转录 faster-whisper使用教程 github：https://github.com/openai/whisper https://gitcode.com/gh_mirrors/whisp/whisp...
-
【排错记录】在Ubuntu上部署stable diffusion（非webui）
背景 辅助做一个实验，前置条件是先能够使用stable diffusion进行输出图像，因此有了这个小任务。 过程 在Ubuntu上仿照Stable Diffusion 跑通总结_sd-v1-4.ckpt 下载-CSDN博客的过程想要运行stable...
-
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型 引言 在人工智能和自然语言处理领域，大型语言模型（LLMs）的应用越来越广泛。llama-cpp-python 是一个强大的工具，它为 llama.cpp 提供了...
-
24年8月最新 Stable Diffusion整合包v4.9（下载地址在文末）！三分钟入门AI绘画
安装和部署Stable Diffusion整合包v4.9（下载地址在文末）~致敬秋葉大佬 介绍如何安装和部署Stable Diffusion。我使用的是秋葉aaaki的整合包 电脑配置 安装和部署Stable Diffusion的电脑配置要求如...
-
Black Forest Labs 的 Flux——文本转图像模型的下一个飞跃，它比 Midjourney 更好吗？
一、前言 Black Forest Labs是开创性稳定扩散模型的团队，现已发布Flux——一套最先进的模型，有望重新定义 AI 生成图像的功能。但 Flux 是否真正代表了该领域的飞跃？它与 Midjourney 等行业领导者相比如何？让我们深入...
-
Alluxio Enterprise AI on K8s 部署教程
? Alluxio Enterprise AI on K8s 部署教程 ? 链接为Alluxio Enterprise AI on K8s 部署视频教程。下面内容将通过文字方式主要介绍如何通过 Operator（Kubernetes 管理应用程序的扩展）在...
-
AI 绘画Stable Diffusion 研究（一）sd整合包v4
一、整合包详细说明 1、整合包升级的内容： torch2 、xformers0.0.17 、 cudnn8.8 打开无需任何操作即可满速(包括40系显卡 升级其它各种依赖版本 预置了Tagger(图反推关键词 的模型 预置了ControlNet、M...
-
AI绘画 Stable Diffusion【SD入门】：如何体验AI绘画工具Stable Diffusion，附SD安装教程和三种体验方式！
大家好，我是程序员晓晓 关于如何使用AI绘画Stable Diffusion工具，一直是很多小伙伴经常咨询的问题之一。今天就和大家一起聊聊关于如何体验AI绘画工具Stable Diffusion。总的来说，使用体验Stable Diffusion工具主要...
-
如何微调 Llama 3 进行序列分类？
节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学. 针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 汇总合集： 《大模...
-
AI时代，服务器厂商能否打破薄利的命运？
AI大模型正在引发新一轮的“算力焦渴”。 近日，OpenAI刚发布的o1大模型再次刷新了大模型能力的上限。对比上一次迭代的版本，o1的推理能力全方位“吊打”了GPT-4o。更优秀的能力，来自与o1将思维链引入进了推理过程。在o1对问题“一边拆解一边回答”的...
-
用Transformers库运行Llama-3.1-Minitron-4B
我的笔记本来自8年前的旧时代，勉强能运行8B模型，于是打算试试看更小的…… Llama-3.1-Minitron 4B 简介 Llama-3.1-Minitron 4B 是基于Llama-3.1 8B模型，通过结构化权重剪枝和知识提炼技术优化而成的...
-
OpenBayes 教程上新 | FLUX ComfyUI 现已上线 ，让 SD 和 Midjourney 颤抖的文生图黑马！
横空出世的黑马 FLUX ，以其强大的图像生成能力，让 Stable Diffusion 和 Midjourney 这 2 个「昔日顶流」倍感压力。 FLUX 与 Stable Diffusion 渊源颇深，其研发公司 Black Forest Labs...
-
Stable Diffusion 3「精神续作」FLUX.1 源码深度前瞻解读
前言 前几个月，推出了著名文生图模型 Stable Diffusion 的 Stability AI 公司曝出了核心团队集体离职的消息。一时间，AI 从业者们议论纷纷，不知道这究竟是团队出现了矛盾，还是这些员工觉得文生图模型做下去没有前途了。而近期，该...
-
rk3588使用npu加速运行whisper语音识别模型
rk3588运行whisper模型有三种方法：1.使用纯cpu运行原始pytorch模型；2.将whisper模型转成onnx格式，再转成rknn格式使用npu运行；3.利用npu提供的矩阵运算功能，结合cpu一起运行原始pytorch模型。方法1做不到实...
-
Ollama保姆级教程
Ollama保姆级教程 Ollama是一个开源框架，专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括GPU使用情况，简化了在本地运行大型模型的过程。 Ollama还提供了对模型量化...
-
Jetson 部署 Faster Whisper
文章目录 Whisper Faster Whisper 安装使用 尝试WSL部署 尝试 Jetson 部署 时间戳 实时转录 Whisper Whisper 是一种通用语音识别模型。它是在大量不同音频数据集上进行训练的，也是一...
-
探索Meta新发布的大模型：Llama 3.1
最近正好关注到了meta发布的新大模型llama3.1，于是抱着好奇的态度来试一下。 近期，Meta发布了其最新的大模型——Llama 3.1。作为一名科技爱好者和人工智能的追随者，我迫不及待地想要了解这一新模型的性能和特点。本文将带你一起探索Llama...
-
使用WhisperLive实现实时语音转文本的魅力
使用WhisperLive实现实时语音转文本的魅力 WhisperLiveA nearly-live implementation of OpenAI's Whisper.项目地址:https://gitcode.com/gh_mirrors/wh/W...