-
使用 GaLore 预训练LLaMA-7B
项目代码： https://github.com/jiaweizzhao/galorehttps://github.com/jiaweizzhao/galore 参考博客： https://zhuanlan.zhihu.com/p/686686751...
-
Whisper ASR Webservice 使用教程
Whisper ASR Webservice 使用教程 whisper-asr-webserviceOpenAI Whisper ASR Webservice API项目地址:https://gitcode.com/gh_mirrors/wh/whis...
-
超强AI绘画工具StableDiffusion，SD整合包V4.9 来了 版本win加mac安装包以及搭载PS安装说明
众所周知，StableDiffusion 是非常强大的AI绘图工具，今天为大家带来的是 Stable Diffusion SD整合包v4.9 版本安装说明 。 这里带来的安装版本是9月最新整合包sd-webui-aki-v4.9 版本 。WIN加MAC...
-
LlamaFactory可视化微调大模型 - 参数详解
LlamaFactory 前言 LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。 可以适应不同的模型架构和大小。 支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation...
-
AIGC大模型扩图：Sanster/IOPaint（4）
AIGC大模型扩图：Sanster/IOPaint（4） 用大模型实现AI扩大一张图的周边区域，变得更大，当然必须契合原图，和原图浑然一体。 1、这次模型换用 Sanster/PowerPaint-V1-stable-diffusion-inp...
-
AI绘画实操 Stable Diffusion 到底怎么玩儿，新手必看的AI绘画入门安装使用教程
大家好，我是灵魂画师向阳 2024年，是AI绘画技术飞速发展的一年，各种AI绘画工具层出不穷，为了让大家在了解和学习AI绘画的过程中少走弯路，今天我将详细介绍目前世界上使用用户最多，社区最大，生态最丰富的免费图像生成模型——Stable Diffusio...
-
AI绘画SDWebUI-Foge运行最强开源 Flux1.0大模型，低显存设备也能跑！让你轻松制作高质量图片！
大家好！我是程序员晓晓 最近AI绘画开源社区又开始发力了，lllyasviel（敏神）——ControlNet的作者刚才发布了一款Flux1-dev-bnb-nf4-v2模型，这个版本最大的优势就是能让低显存的设备也能运行，这个低到底有多低呢？ 实测下...
-
DataWhale Task02：从零预训练一个tiny-llama 20923
DataWhale Task02：从零预训练一个tiny-llama 20923 原文link：https://github.com/KMnO4-zx/tiny-llm 开源内容：https://github.com/datawhalechina/t...
-
三星推出Galaxy Tab S10系列平板：搭载天玑9300 、优化AI性能
快科技9月27日消息，据媒体报道，三星推出了Galaxy Tab S10系列平板电脑，包括Galaxy Tab S10 Ultra和Galaxy Tab S10 两款产品，搭载联发科天玑9300 ，首次在其旗舰平板电脑中搭载联发科芯片。 据悉，天玑9300...
-
最强服务器CPU来了！AI性能直接翻倍
服务器CPU领域持续多年的核心数量大战，被一举终结了! 英特尔最新发布的至强®6性能核处理器（P-core系列），超越了过去单一维度的竞争，通过“升维”定义了新的游戏规则: 在过去，CPU升级换代往往要在单个芯片上集成更多的核心，但这难免会受到工艺和芯...
-
AI几小时设计芯片超越人类！谷歌AlphaChip登Nature，已设计出三代旗舰TPU
【新智元导读】谷歌的AlphaChip，几小时内就能设计出芯片布局，直接碾压人类专家!这种超人芯片布局，已经应用在TPU、CPU在内的全球硬件中。人类设计芯片的方式，已被AI彻底改变。 能设计芯片的AI黑科技来了! 就在刚刚，谷歌DeepMind推出名为A...
-
`ModuleNotFoundError: No module named ‘whisper‘`
/home/shgbitai/pythonworkspace/ai-accompany/venv/bin/python /home/shgbitai/pythonworkspace/ai-accompany/main.py Traceback (most...
-
用TensorRT-LLM进行LLama的推理和部署
Deploy an AI Coding Assistant with NVIDIA TensorRT-LLM and NVIDIA Triton | NVIDIA Technical BlogQuick Start Guide — tensorrt_llm...
-
Stable Diffusion秋叶整合安装包下载 Windows版 SD一键安装包启动器
本次整合包升级内容： torch2、xformers0.0.17、cudnn 8.8打开无需任何操作即可满速(包括40系显卡 升级其它各种依赖版本预置了Tagger(图反推关键词 的模型预置了ControlNet、MultiDiffusion插件优化了...
-
Llama 3.1 技术研究报告-2
3.3 基础设施、扩展性和效率 我们描述了⽀持Llama 3 405B⼤规模预训练的硬件和基础设施，并讨论了⼏项优化措施，这些措施提⾼了训练效率。 3.3.1 训练基础设施 Llama 1和2模型在Meta的AI研究超级集群（Lee和Sengup...
-
在线教程丨超大模型部署无压力！一键运行 Llama 3.1 405B 和 Mistral Large 2
作者：李宝珠 编辑：xixi、李宝珠 HyperAI超神经为大家上线了 Llama 3.1 405B 和 Mistral Large 2407 的一键部署教程，无需输入任何命令，只需点击「克隆」即可体验。 当地时间 7 月 23 日...
-
Whisper-CPP：CPU-AI语音识别的天才，CosyVoice - 阿里最新开源语音克隆、文本转语音项目 一键整合包下载，GPT-4o实时语音方案Livekit开源voice agent音视频
Whisper-CPP：CPU-AI语音识别的天才，CosyVoice - 阿里最新开源语音克隆、文本转语音项目 一键整合包下载，GPT-4o实时语音方案Livekit开源voice agent音视频。 使用Streamlit和wheaster.CP...
-
编译运行 llama.cpp (vulkan, Intel GPU SYCL)
llama.cpp 是一个运行 AI (神经网络 语言大模型的推理程序, 支持多种 后端 (backend , 也就是不同的具体的运行方式, 比如 CPU 运行, GPU 运行等. 但是编译运行 llama.cpp 并不是那么容易的, 特别是对于 SY...
-
OpenAI开启推理算力新Scaling Law，AI PC和CPU的机会来了
OpenAI的新模型o1，可谓是开启了Scaling Law的新篇章—— 随着更多的强化学习（训练时计算）和更多的思考时间(测试时计算 ，o1在逻辑推理能力上已经达到了目前天花板级别。 尤其是在北大给出的一项评测中，o1-mini模型的跑分比o1-prev...
-
大模型之使用PyTorch编写Meta的Llama 3实际功能代码（六）
LlaMA 3 系列博客 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一） 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二） 基于 LlaMA 3 + LangGraph 在w...
-
[1305]whisper(音转文)使用教程
文章目录 实时录制音频并转录 faster-whisper使用教程 github：https://github.com/openai/whisper https://gitcode.com/gh_mirrors/whisp/whisp...
-
【排错记录】在Ubuntu上部署stable diffusion（非webui）
背景 辅助做一个实验，前置条件是先能够使用stable diffusion进行输出图像，因此有了这个小任务。 过程 在Ubuntu上仿照Stable Diffusion 跑通总结_sd-v1-4.ckpt 下载-CSDN博客的过程想要运行stable...
-
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型 引言 在人工智能和自然语言处理领域，大型语言模型（LLMs）的应用越来越广泛。llama-cpp-python 是一个强大的工具，它为 llama.cpp 提供了...
-
24年8月最新 Stable Diffusion整合包v4.9（下载地址在文末）！三分钟入门AI绘画
安装和部署Stable Diffusion整合包v4.9（下载地址在文末）~致敬秋葉大佬 介绍如何安装和部署Stable Diffusion。我使用的是秋葉aaaki的整合包 电脑配置 安装和部署Stable Diffusion的电脑配置要求如...
-
Black Forest Labs 的 Flux——文本转图像模型的下一个飞跃，它比 Midjourney 更好吗？
一、前言 Black Forest Labs是开创性稳定扩散模型的团队，现已发布Flux——一套最先进的模型，有望重新定义 AI 生成图像的功能。但 Flux 是否真正代表了该领域的飞跃？它与 Midjourney 等行业领导者相比如何？让我们深入...
-
Alluxio Enterprise AI on K8s 部署教程
? Alluxio Enterprise AI on K8s 部署教程 ? 链接为Alluxio Enterprise AI on K8s 部署视频教程。下面内容将通过文字方式主要介绍如何通过 Operator（Kubernetes 管理应用程序的扩展）在...
-
AI 绘画Stable Diffusion 研究（一）sd整合包v4
一、整合包详细说明 1、整合包升级的内容： torch2 、xformers0.0.17 、 cudnn8.8 打开无需任何操作即可满速(包括40系显卡 升级其它各种依赖版本 预置了Tagger(图反推关键词 的模型 预置了ControlNet、M...
-
AI绘画 Stable Diffusion【SD入门】：如何体验AI绘画工具Stable Diffusion，附SD安装教程和三种体验方式！
大家好，我是程序员晓晓 关于如何使用AI绘画Stable Diffusion工具，一直是很多小伙伴经常咨询的问题之一。今天就和大家一起聊聊关于如何体验AI绘画工具Stable Diffusion。总的来说，使用体验Stable Diffusion工具主要...
-
如何微调 Llama 3 进行序列分类？
节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学. 针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 汇总合集： 《大模...
-
AI时代，服务器厂商能否打破薄利的命运？
AI大模型正在引发新一轮的“算力焦渴”。 近日，OpenAI刚发布的o1大模型再次刷新了大模型能力的上限。对比上一次迭代的版本，o1的推理能力全方位“吊打”了GPT-4o。更优秀的能力，来自与o1将思维链引入进了推理过程。在o1对问题“一边拆解一边回答”的...
-
用Transformers库运行Llama-3.1-Minitron-4B
我的笔记本来自8年前的旧时代，勉强能运行8B模型，于是打算试试看更小的…… Llama-3.1-Minitron 4B 简介 Llama-3.1-Minitron 4B 是基于Llama-3.1 8B模型，通过结构化权重剪枝和知识提炼技术优化而成的...
-
OpenBayes 教程上新 | FLUX ComfyUI 现已上线 ，让 SD 和 Midjourney 颤抖的文生图黑马！
横空出世的黑马 FLUX ，以其强大的图像生成能力，让 Stable Diffusion 和 Midjourney 这 2 个「昔日顶流」倍感压力。 FLUX 与 Stable Diffusion 渊源颇深，其研发公司 Black Forest Labs...
-
Stable Diffusion 3「精神续作」FLUX.1 源码深度前瞻解读
前言 前几个月，推出了著名文生图模型 Stable Diffusion 的 Stability AI 公司曝出了核心团队集体离职的消息。一时间，AI 从业者们议论纷纷，不知道这究竟是团队出现了矛盾，还是这些员工觉得文生图模型做下去没有前途了。而近期，该...
-
rk3588使用npu加速运行whisper语音识别模型
rk3588运行whisper模型有三种方法：1.使用纯cpu运行原始pytorch模型；2.将whisper模型转成onnx格式，再转成rknn格式使用npu运行；3.利用npu提供的矩阵运算功能，结合cpu一起运行原始pytorch模型。方法1做不到实...
-
Ollama保姆级教程
Ollama保姆级教程 Ollama是一个开源框架，专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括GPU使用情况，简化了在本地运行大型模型的过程。 Ollama还提供了对模型量化...
-
Jetson 部署 Faster Whisper
文章目录 Whisper Faster Whisper 安装使用 尝试WSL部署 尝试 Jetson 部署 时间戳 实时转录 Whisper Whisper 是一种通用语音识别模型。它是在大量不同音频数据集上进行训练的，也是一...
-
探索Meta新发布的大模型：Llama 3.1
最近正好关注到了meta发布的新大模型llama3.1，于是抱着好奇的态度来试一下。 近期，Meta发布了其最新的大模型——Llama 3.1。作为一名科技爱好者和人工智能的追随者，我迫不及待地想要了解这一新模型的性能和特点。本文将带你一起探索Llama...
-
使用WhisperLive实现实时语音转文本的魅力
使用WhisperLive实现实时语音转文本的魅力 WhisperLiveA nearly-live implementation of OpenAI's Whisper.项目地址:https://gitcode.com/gh_mirrors/wh/W...
-
AIGC实践——asr识别FunASR手把手部署流程
? 大家好，我是可夫小子，《小白玩转ChatGPT》专栏作者，关注AIGC、互联网和自媒体。 FunASR是什么？ FunASR 是一个基本的语音识别工具包，提供多种功能，包括语音识别 (ASR 、语音活动检测 (VAD 、标点符号恢复、语言模型...
-
中国首个网络大模型，pick了CPU
当电信网络用上了大模型，会是一种什么体验? 以前网络上若是出了问题，运维人员需得是先靠着经验反复排查，找到了“病根”再“对症下药”。 而现在有了大模型，这事儿的“打开方式”就变得截然不同了。 首先，网络上若是出现了问题，大模型已经学会自己去找“病根”了，然...
-
Llama开源代码详细解读（2）
FlashAttention if is_flash_attn_available( : # 检查flashattention的可用性 from flash_attn import flash_attn_func, flash_attn_var...
-
5分钟 Stable Diffusion本地安装
要在5分钟内完成Stable Diffusion的本地安装，可以参考以下步骤： 下载安装包：首先，需要下载Stable Diffusion的一键部署包。可以从多个资源网站或教程中找到下载链接，例如秋叶整合包。 解压安装包：下载完成后，解压安装包。...
-
llama-node 项目教程
llama-node 项目教程 llama-nodeBelieve in AI democratization. llama for nodejs backed by llama-rs, llama.cpp and rwkv.cpp, work loc...
-
零刻首发AMD Zen5迷你机：旗舰锐龙AI 9 HX 370核显媲美RTX 3050
快科技9月11日消息，大家望眼欲穿的Zen5架构迷你机终于来了！零刻披露，将在中秋节后少量上线新款SER9”，但定价暂未公开，只知道初期确实会比较高。 配置方面，处理器是旗舰款锐龙AI 9 HX 370，12个Zen5 CPU核心最高频率5.1GHz，16...
-
A18芯片才是苹果的杀手锏，为AI手机而生的移动芯片？
2024年9月10日凌晨1点，Apple 如约举行“高光时刻”线上发布会，发布了 Apple Watch、AirPods、iPhone 三大产品线内的多款新品。在全场屏息凝神的注目下，iPhone16系列正式登场。 先说说 iPhone16系列的升级点:...
-
BitNet B1.58——模型参数用三个值表示，精度优于 Llama
介绍 论文地址：https://github.com/microsoft/bitblas 源码地址：https://github.com/microsoft/bitblas 与大型语言模型（LLMs）相比，小型语言模型（SLMs）正逐渐成为人们关注的焦...
-
【AI学习笔记】AIGC，AI绘画 ComfyUI+ComfyUI Manager安装
【AI学习笔记】ComfyUI+ComfyUI Manager安装 最近在面向BOSS直聘学习ComfyUI的使用，但是不出意外，因为学习者们迥异的电脑配置以及杂乱的AI软件工具包互相纠缠，跟人工智能相关的环境安装多少都会遇到点教程预料不到的BUG。...
-
硬件没亮点、AI全缺席，iPhone 16 背刺中国用户？
2024年9月10日凌晨1点，Apple 如约举行“高光时刻”线上发布会，发布了 Apple Watch、AirPods、iPhone 三大产品线内的多款新品。在全场屏息凝神的注目下，iPhone16系列正式登场。 先说说 iPhone16系列的升级点:...
-
苹果史上第一台AI手机诞生，iPhone 16屠版热搜！中文版明年登场，3nm芯片封神
【新智元导读】刚刚结束的科技春晚上，iPhone16系列惊艳亮相。全新的AI功能，把私人体验拉满到极致。专门打造的A18和A18Pro芯片，将在新机中首发搭载。 就在刚刚，苹果真正意义上第一款原生AI手机，终于在千呼万唤中亮相了。 以全新的Apple In...
-
专为苹果AI大模型打造！iPhone 16搭载A18芯片
2024年苹果秋季新品发布会于9月10日召开，该公司宣布推出最新一代的iPhone 16。这款手机配备了Apple最坚固的玻璃保护屏幕，可有效防止刮擦。 iPhone 16和iPhone 16 Plus的显示屏尺寸分别为6.1英寸和6.7英寸。在相机控制按...