-
谷歌狂喜：JAX性能超越Pytorch、TensorFlow！或成GPU推理训练最快选择
谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow，7项指标排名第一。 而且测试并不是在JAX性能表现最好的TPU上完成的。 虽然现在在开发者中，Pytorch依然比Tensorflow更受欢迎。 但未来，也许有更多...
-
Python使用whisper实现语音识别（ASR）
目录 Whisper的安装 Whisper的基本使用 识别结果转简体中文 断句 Whisper的安装 Whisper是OpenAI的一个强大的语音识别库，支持离线的语音识别。在使用之前，需要先安装它的库： pip install ope...
-
AI绘画Imagen大力出奇迹生成图像
AI绘画Imagen大力出奇迹生成图像 介绍 Imagen是一个文本到图像的扩散模型，由Google大脑团队研究所开发。 Imagen通过创新的设计，摈弃了需要预训练视觉-语言模型的繁琐步骤，直接采用了T5等大规模语言模型作为文...
-
开源AI平台Lightning AI发布AI编译器“Thunder”以加速模型训练
开源人工智能平台Lightning AI宣布与Nvidia合作，发布了名为“Thunder”的下一代AI编译器，旨在加速人工智能模型的训练速度。据Lightning AI称，该编译器在实际场景中相比未优化的代码，可将大型语言模型（LLMs）的训练速度提高高...
-
llama factory学习笔记
模型 模型名 模型大小 默认模块 Template Baichuan2 7B/13B W_pack baichuan2 BLOOM 560M/1.1B/1.7B/3B/7.1B/176B query_key_value - BLOOM...
-
Stable Diffusion~自注意力替换技术
在这篇文章中，作者展示了一个较为复杂的基于 Diffusers 开发的自注意力替换示例项目，用于提升 SD 视频生成的一致性。在这个过程中，作者讲述了 AttentionProcessor 相关接口函数的使用，并了解了如何基于全局管理类实现一个代码可维护性...
-
Stable Diffusion生成式扩散模型代码实现原理
Stable Diffusion可以使用PyTorch或TensorFlow等深度学习框架来实现。这些框架提供了一系列的工具和函数，使得开发者可以更方便地构建、训练和部署深度学习模型。因此可以使用PyTorch或TensorFlow来实现Stable Di...
-
【在线回放】NVIDIA GTC 2024 大会 | 如何降低 AI 工程成本？蚂蚁从训练到推理的全栈实践
本文内容来源于蚂蚁集团 AI Infra部门负责人张科，在 GTC 2024 大会 China AI Day 线上专场的演讲。在演讲中张科分享了 AI 工程当前的现状和主要挑战，以及蚂蚁集团在 AI 工程领域的实践经验和开源项目，也欢迎 AI 工程领域的同...
-
TensorFlow深度学习框架模型推理Pipeline进行人像抠图推理
概述 为了使ModelScope的用户能够快速、方便的使用平台提供的各类模型，提供了一套功能完备的Python library，其中包含了ModelScope官方模型的实现，以及使用这些模型进行推理，finetune等任务所需的数据预处理，后处理，效果...
-
使用 Keras 的 Stable Diffusion 实现高性能文生图
前言 在本文中，我们将使用基于 KerasCV 实现的 Stable Diffusion 模型进行图像生成，这是由 stable.ai 开发的文本生成图像的多模态模型。 Stable Diffusion 是一种功能强大的开源的文本到图像生成模型。虽然...
-
3140参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了
马斯克说到做到开源Grok-1，开源社区一片狂喜。 但基于Grok-1做改动or商用，都还有点难题： Grok-1使用Rust+JAX构建，对于习惯Python+PyTorch+HuggingFace等主流软件生态的用户上手门槛高。 △图注：Grok登...
-
Fastwhisper + Pyannote 实现 ASR + 说话者识别
文章目录 前言 一、faster-whisper简单介绍 二、pyannote.audio介绍 三、faster-whisper + pyannote.audio 实现语者识别 四、多说几句 前言 最近在研究ASR相关的业务，也...
-
一图揽尽全球LLM崛起之路；LLM概念速查清单；DALL·E提示词红宝书·在线版；fast.ai新课带你从零实现Stable Diffusion | ShowM
👀日报&周刊合集 | 🎡生产力工具与行业应用大全 | 🧡 点赞关注评论拜托啦！ 👀 LLM 崛起之路：全球大语言模型「规模增长」可视化交互图 informationisbeautiful.net/visualizati…...
-
最全总结！机器学习优化算法！
机器学习的最优化算法是用于找到最佳模型参数，以最小化预测误差的算法。这些算法通过迭代地调整模型参数，以不断改进模型的性能。 本文系统地介绍了优化算法，基本脉络是从优化的基础知识，到各种优化算法原理的介绍及代码示例，最后放上各种算法的对比及实践经验总结!...
-
人工智能如何发展到AIGC？解密一份我四年前写的机器学习分享材料
正文共：777 字 26 图，预估阅读时间：2 分钟 我第一次参与到人工智能中，还是在H3C的时候，当时H3C搞领航者峰会，准备了一个智能问答机器人——吱吱答。当时的吱吱答，是真的“人工”智能，实现机制就是传统的关键词识别、系统问题匹配等，...
-
Windows下安装BigDL-LLM的总结（附Whisper加速环境需求）
1. 下载安装Anaconda 2. 新建Python虚拟环境 在Windows下启动Anaconda PowerShell Prompt，输入以下命令新建名为bigdl-llm的虚拟环境 conda create -n bigdl-llm p...
-
英伟达推出6G研究云平台，致力于实现6G RAN雄伟目标
在凭借RAN加速器进军移动网络领域之后，英伟达希望依托芯片和AI技术，能够在6G领域发挥更大、更关键的作用。 在日前举办的2024年度GTC AI大会上，英伟达宣布推出新的6G研究云平台(6G Research Cloud Platform 。这是一种...
-
如何从头开始编写LoRA代码，这有一份教程
LoRA（Low-Rank Adaptation）作为一种用于微调 LLM（大语言模型）的流行技术，最初由来自微软的研究人员在论文《 LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS 》中提出。不同于其...
-
Python AI 之Stable-Diffusion-WebUI
Stable-Diffusion-WebUI简介 通过Gradio库，实现Stable Diffusion web 管理接口 Windows 11 安装Stable-Diffusion-WebUI 个人认为Stable-Diffusion-We...
-
AIGC: 2 语音转换新纪元-Whisper技术在全球客服领域的创新运用
背景 现实世界，人跟人的沟通相当一部分是语音沟通，比如打电话，聊天中发送语音消息。 而在程序的世界，大部分以处理字符串为主。 所以，把语音转换成文字就成为了编程世界非常普遍的需求。 Whisper 是由 OpenAI 开发的一种高效的语音识别（AS...
-
小妙招：Copilot 当跳板免费调用 GPT4
GPT4 每月 20 刀，Github Copilot 每月 10 刀 首先叠个甲：免费不是 0 成本。 由于我在日常开发过程中，Copilot 对我来说是必需品，我会用它检查代码、写工具函数、写注释、干苦力。所以这钱是我的必要支出。而这篇文章是介...
-
20240203在WIN10下配置stable-diffusion-webui.git
20240203在WIN10下配置stable-diffusion-webui.git 2024/2/3 11:55 【结论：在WIN10下，生成512x512分辨率的图像，大概需要9秒钟！】 【结论：在Ubuntu20.04.6下，生成512x512...
-
Whisper实现语音识别转文本
#教程 主要参考开源免费离线语音识别神器whisper如何安装，OpenAI开源模型Whisper——音频转文字 Whisper是一个开源的自动语音识别系统，它在网络上收集了680,000小时的多语种和多任务监督数据进行训练，使得它可以将多种语言的音频...
-
Meta公布Llama 3训练集群细节！储备60万块H100迎接AGI
每年3月份，照例各家大厂又要开始秀自己最新的产品和研究了。 OpenAI刚刚发布了震惊世人的Sora，最新的ChatGPT版本似乎也是箭在弦上。 谷歌更是举全公司之力，从去年底就开始放出了包括Gemini Ultra，Gemini 1.5，Gemma在内...
-
Meta新增两大万卡集群，投入近50000块英伟达H100 GPU
Meta日前推出两个功能强大的GPU集群，用于支持下一代生成式AI模型的训练，包括即将推出的Llama 3。 据悉，这两个数据中心的GPU数量均高达24,576块，专为支持比之前发布的更大、更复杂的生成式AI模型而构建。 作为一种流行的开源算法模型，M...
-
超强！深度学习Top10算法！
自2006年深度学习概念被提出以来，20年快过去了，深度学习作为人工智能领域的一场革命，已经催生了许多具有影响力的算法。那么，你所认为深度学习的top10算法有哪些呢？ 以下是花哥我心目中的深度学习top10算法，它们在创新性、应用价值和影响力方面都具...
-
探索Kubernetes与AI的结合：PyTorch训练任务在k8s上调度实践
概述 Kubernetes的核心优势在于其能够提供一个可扩展、灵活且高度可配置的平台，使得应用程序的部署、扩展和管理变得前所未有的简单。通用计算能力方面的应用已经相对成熟，云原生化的应用程序、数据库和其他服务可以轻松部署在Kubernetes环境中，实现...
-
端到端没有数据怎么办？ActiveAD：面向规划的端到端自动驾驶主动学习！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 自动驾驶的端到端可微学习最近已成为一种突出的范式。一个主要瓶颈在于其对高质量标记数据的巨大需求，例如3D框和语义分割，这些数据的手动注释成本是出了名的昂贵。由于AD中样本内的行为往往存在长尾分布这一...
-
Llama-3背后基础训练设施全揭秘：两个24KGPU集群，共4.9万个H100
作者丨Kevin Lee、Adi Gangidi、Mathew Oldham 编译丨诺亚 出品 | 51CTO技术栈（微信号：blog51cto） 日前，Meta在官网公布了两个全新的24K H100 GPU集群（49,152个），并就新集群的技术细节...
-
【AI实战】从零开始搭建中文 LLaMA-33B 语言模型 Chinese-LLaMA-Alpaca-33B
【AI实战】从零开始搭建中文 LLaMA-33B 语言模型 Chinese-LLaMA-Alpaca-33B 简介 环境配置 环境搭建 依赖安装 代码及模型权重拉取 拉取 Chinese-LLaMA-Alpaca 拉取 llama-30b...
-
AIGC:语音克隆模型Bert-VITS2-2.3部署与实战
1 VITS2模型 1.1 摘要 单阶段文本到语音模型最近被积极研究，其结果优于两阶段管道系统。以往的单阶段模型虽然取得了较大的进展，但在间歇性非自然性、计算效率、对音素转换依赖性强等方面仍有改进的空间。本文提出VITS2，一种单阶段的文本到语音模型...
-
DALL·E 2 文生图模型实践指南
前言：本篇博客记录使用dalle2模型进行推断时借鉴的相关资料和DEBUG流程。 相关博客：超详细！DALL · E 文生图模型实践指南 目录 1. 环境搭建和预训练模型准备 环境搭建 预训练模型下载 2. 代码 3. B...
-
一键Run带你体验扩散模型的魅力
在文生视频领域，Sora将带来短视频的智能化变革，打破当前内容平台等额原有数据壁垒，短视频创作的生态护城河，同时Sora融入短视频工作流，极大的增强用户的体验，降低创作难度和成本，极大拓展创作者的能力边界，激发短视频创作空间。 在视频创作...
-
本地开启stable diffusion web-ui体验AIGC文生图，图生图
目录 准备工作 主机电脑配置检查 安装以下软件 Python Git 下载stable-diffusion-webui仓库 根据显卡属性安装CUDA 2.下载stable diffusion的训练模型 启动 问题处理 模型加载问题...
-
GPU部署AI绘画实践（腾讯云部署）
GPU部署AI绘画实践 背景 AI绘画模型（以StableDiffusion为首）自去年推出后快速迭代。近期，市面上又出现了一批效果惊艳的新突破。 本文将演示如何使用 GPU云服务器，快速部署 AI 绘画模型。从创建机器到完成部署...
-
不到百行代码，使用Whisper进行视频字幕生成。
前言 最近在学习视频剪辑的时候，希望找一款软件进行翻译；发现大多数是调用某云的Api进行翻译。通过查询资料,打算使用Whisper进行本地视频语音的识别，然后进行字幕文件的编辑（srt），最后通过ffmpeg添加到视频中。 Whisper 是...
-
0.8秒一张图40hx矿卡stable diffusion webui 高质极速出图组合(24.3.3）
新消息是。经过三个月的等待，SD Webui (automatic1111 终于推出了新版本1.8.0，本次版本最大的更新，可能就是pytorch更新到2.1.2, 不过还是晚了pytorch 2.2.2版。 不过这版的一些更新，在forget分支上早就...
-
AI绘画再提速-stable diffusion LCM Lora模型简书
这是基于stable diffusion webui (automatic1111项目）中安装LCM 模型的方法，可大幅提升绘图速度。 方法一：SD1.5基础模型，方法比较简单，直接从https://huggingface.co/latent-consi...
-
前谷歌大佬离职创业，不到一年造出GPT3.5和Gemini Pro，惨痛忠告：GPU简直菜鸡，就像是买彩票！
作者 | Yi Tay 编译 | 云昭 出品 | 51CTO技术栈（微信号：blog51cto） 你敢相信吗？一位前谷歌大佬，离职成立公司，不到一年，从头训练出了“GPT3.5”/“Gemini Pro”，注意，后者是多模态大模型！ 本文主人公Y...
-
PyTorch 该怎么学？太简单了
挺多小伙伴问过PyTorch该怎么学，经过长期实践来看，初学者需要熟知的概念和用法真的不多，以下总结的简明指南一起看看吧！ 构建Tensor PyTorch 中的 Tensors 是多维数组，类似于 NumPy 的 ndarrays，但可以在 GPU...
-
「还是谷歌好」，离职创业一年，我才发现训练大模型有这么多坑
如何在不到一年的时间里创办一家公司、筹集资金、购买芯片，并搭建出追赶 Gemini pro/GPT 3.5 的 LLM？ 很多人都对构建基础架构和训练大语言模型和多模态模型感到好奇，但真正走完「从零开始」这一流程的人很少。我们普遍认为，储备技术人才是前提...
-
AI加速引擎PAI-TorchAcc：OLMo训练加速最佳实践
作者：黄奕桐、沈雯婷、艾宝乐、王昂、李永 摘要 阿里云机器学习平台PAI开发的Pytorch训练加速框架PAI-TorchAcc已接入最新开源的大语言模型 OLMo。 在保证模型效果和易用性的前提下，PAI-TorchAcc相对 PyTorch 性能在...
-
【AI绘画】免费GPU Tesla A100 32G算力部署Stable Diffusion
免责声明 在阅读和实践本文提供的内容之前，请注意以下免责声明： 侵权问题: 本文提供的信息仅供学习参考，不用做任何商业用途，如造成侵权，请私信我，我会立即删除，作者不对读者因使用本文所述方法而导致的任何损失或损害负责。 信息准确性: 本文提供...
-
AIGC 实战：如何使用 Ollama 开发自定义的大模型（LLM）
虽然 Ollama 提供了运行和交互式使用大型语言模型（LLM）的功能，但从头开始创建完全定制化的 LLM 需要 Ollama 之外的其他工具和专业知识。然而，Ollama 可以通过微调在定制过程中发挥作用。以下是细分说明： 预训练模型选择： Oll...
-
三足鼎立的开源大模型：Llama、Gemma和Mistral
关于Llama 3的最新消息，Meta计划在今年7月推出这一全新的开源大模型。Llama 3的最大版本预计将拥有超过1400亿个参数，这意味着它的性能将远超过前一代的Llama 2。至于Llama 3是否将具备多模态能力，目前尚未有确切的信息。 同时，谷...
-
【MacOS】openai 语音识别模型 whisper 本地部署教程（cpu+mps方案）
目录 1. whisper 安装 openai-whisper 参考视频链接与安装过程 安装homebrew 安装Python （不要超过3.10） 安装Pytorch 安装ffmpeg 安装rust 安装whisper 注意事项 可...
-
Meta AI提出MobileLLM:为在移动设备上部署LLM提供新思路
Meta AI 研究团队推出的 MobileLLM 标志着大语言模型（LLMs）朝着模拟人类理解和生成自然语言迈出了革命性的一步。LLMs 在处理和分析大量数据集方面的能力已经显著影响了自动化客户服务、语言翻译和内容创作等多个领域。然而，由于传统 LLMs...
-
一些安装AUTOMATIC1111的Stable Diffusion WebUI常遇到的错误消息的解决方式
确保电脑符合Stable Diffusion的系统需求 1. 电脑硬件需求 最低配备 建议配备 注解 显卡(GPU GTX1050Ti RTX3060Ti 支持的显卡芯片有Nvidia/AMD/Intel Arc/Apple M。 显...
-
Hugging Face AI 平台中发现100个恶意代码执行模型
研究人员发现，大约有100个机器学习模型被上传到 Hugging Face 人工智能（AI）平台，可能使攻击者能够在用户机器上注入恶意代码。这一发现进一步强调了当攻击者操纵公开可用的 AI 模型用于恶意活动时所带来的不断增长的威胁。 JFrog 安全研究...
-
基本概念：什么是ChatGPT和AIGC
1.背景介绍 1. 背景介绍 自2012年的AlphaGo胜利以来，人工智能(AI 技术的进步速度逐年加快，尤其是自然语言处理(NLP 领域的突破性进展。ChatGPT和AIGC是近年来引起广泛关注的两个AI技术。本文将深入探讨这两个技术的核...