-
Llama 3.1用了1.6万个英伟达H100 GPU，耗费......
目录 Llama 3.1发布简介 Llama 3.1模型规模与训练 大模型企业发展面临的问题与困境 算力和能耗算力方面 数据和资金方面 技术和人才方面 Llama 3.1发布简介 当地时间 2024年 7月 23号，Meta 公司发布...
-
AMD 48亿元成功收购欧洲第一Silo AI：苏姿丰亲自热烈欢迎
AMD近日宣布，已经完成对欧洲最大私人AI实验室Silo AI的收购工作，交易价值约6.65亿美元，折合人民币48亿元左右，全现金支付。 这也是最近10年来，欧美最大的一笔AI科技企业并购案。 上次的爆炸性AI收购，还要追溯到2014年，Google斥资约...
-
Whisper JAX 深度使用指南
Whisper JAX 深度使用指南 whisper-jaxJAX implementation of OpenAI's Whisper model for up to 70x speed-up on TPU.项目地址:https://gitcode....
-
FLUX.1 实测，堪比 Midjourney 的开源 AI 绘画模型，无需本地显卡，带你免费实战
要列举 AI 绘画开源界的几个关键贡献，一定少不了 Stable Diffusion。 还记否前不久刚推出的 Stable Diffusion 3？ 其背后的团队 Stability AI，真的是一波三折，其核心成员出走，成立了一个新公司：Black...
-
【Datawhale AI夏令营第四期】魔搭-AIGC方向 Task01笔记
报名参加了和鲸的AI夏令营，出于任务要求，也出于我一贯的学习习惯，写篇笔记记录一下自己学习过程中遇到的困难，和积累的资源、经验等。 课程链接： https://space.bilibili.com/1069874770/channel/collect...
-
AIGC前沿 | LivePortrait
0. 资源链接 论文超链接: LivePortrait 项目: https://github.com/KwaiVGI/LivePortrait 1. 背景动机 现有AIGC存在的问题 随着智能手机和其他录制设备的普及，人们越来越频繁地...
-
【大模型Stable Diffusion】pip安装bitsandbytes后训练报错CUDA Setup failed despite GPU being available
系统环境 GPU: 3060 CUDA：11.6（确保CUDA、cuDNN已安装且添加好环境变量） 操作系统：Win11（Linux的朋友可以参考文末的Issues，再结合GPT相信可以解决的） 问题描述 错误：CUDA Setup fai...
-
【AIGC】ComfyUI入门-安装ComfyUI
栏目： 栏目目录里面会收录我关于AIGC相关的笔记博文，大家如果有什么不懂的可以通过阅读我的笔记进行学习。【AIGC目录】 最近自己在抽时间研究ComfyUI相关的内容，抽时间整理一下自己了解到的内容，希望可以帮到其他想要学习的小伙伴。 安装Co...
-
SD原班人马发布FLUX.1：打开AI绘画新世界
Black Forest Labs 旗下产品 AI 绘画工具如雨后春笋般涌现，让我们对创作的理解不断刷新。就在大家以为已经见识了 AI 绘画的天花板时，FLUX.1 出现了！这款由 Black Forest Labs 推出的 AI 绘画...
-
开源项目Llama.cpp指南
开源项目Llama.cpp指南 llama.cppPort of Facebook's LLaMA model in C/C++项目地址:https://gitcode.com/gh_mirrors/ll/llama.cpp 1. 项目介绍 Ll...
-
“Datawhale X 魔搭 AI夏令营”-AIGC文生图方向Task1笔记
前言 就自己学习过程对于Datawhale AI的夏令营第四期魔搭-AIGC文生图方向，做了个初级版教程，供小白参考，后期有机会也会通过自己的学习总结相关知识教程，期待和大家一起相互学习，共同进步！ 正文 第一步：报名参加赛事！ 点击赛事链接： ：天池平...
-
使用Llama-factory微调Llama3教程
一、登录OpenBayes进行注册登录 通过以下链接，新用户注册登录 OpenBayes ， 即可获得 四个小时 RTX 4090免费使用时长 ！！ 注册链接:https://openbayes.com/console/signup?r=zzl99_W...
-
微调stable diffusion
微调stable diffusion 一. 代码参考 不在stable diffusion官方仓库中修改，而是到huggingface 中找到微调的文件微调stable diffusion， 在其上面进行修改， 二. 出现的问题： huggi...
-
PC行业要变天！曝联发科首款AI PC芯片明年登场：剑指高通英特尔
快科技8月12日消息，在过去的几十年时间里，PC处理器一直被X86指令集所统治，PC市场上常见的英特尔酷睿系列和锐龙系列均采用了X86架构，几乎可以说X86一统天下。 从2024年开始，随着AI时代的到来，PC也步入更新迭代的关键时刻，高通发布了面向PC平...
-
忘记 Stable Diffusion吧，⚡️闪电扩散Flash Diffusion来了！
忘记 Stable Diffusion吧，⚡️闪电扩散Flash Diffusion来了！ Jasper的巴黎研究实验室最近发布了一项令人振奋的新研究：闪电扩散Flash Diffusion。这种新方法不仅加快了图像生成和编辑的速度，还显著提升了...
-
2024最适合小白的Midjourney教程，值得收藏！
一、Midjourney 的提示词 1、提示可以包括一个或多个图像 URL、多个文本短语以及一个或多个参数 1）Image Prompts（图像提示）：可以将图像 URL 添加到提示中以影响最终结果的样式和内容。图像 URL 始终出现在提示的...
-
【xinference】（3）：在autodl上，使用xinference部署whisper-tiny音频模型，并成功将语音转换成文本，测试成功，还支持音频直接翻译成英文
1，视频地址 https://www.bilibili.com/video/BV1Z7421K7vL/ 【xinference】（3）：在autodl上，使用xinference部署whisper-tiny音频模型，并成功将语音转换成...
-
从LLaMa 3 技术报告，再看LLM构建过程 ——《带你自学大语言模型》系列（番外）
本系列目录 《带你自学大语言模型》系列部分目录及计划，完整版目录见：带你自学大语言模型系列 —— 前言 第一部分 走进大语言模型（科普向） 第一章 走进大语言模型 1.1 从图灵机到GPT，人工智能经历了什么？——《带你自学大语言模型...
-
大模型笔记之-Llama-3.1-405B-Instruct-FP8离线部署[8*A800] 基于vLLM 版本v0.5.3.post1
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、硬件环境 二、软件环境 三 . 模型下载 1.环境准备 新建 conda虚拟环境 安装vLLM 启动命令 启动日志截取 FP8 量化损失 对接...
-
Llama 3.1 模型：从部署到微调的全方位应用手册
在人工智能的浪潮中，大型语言模型（LLMs）已成为推动技术进步的关键力量。随着Meta公司最新开源的Llama 3.1模型的问世，我们见证了开源AI领域的一大飞跃。Llama 3.1以其卓越的性能和广泛的应用潜力，为开发者和研究者提供了一个强大的工具，以探...
-
Supertone Shift有哪些功能免费吗？AI实时声音变换怎么使用方法详细教程指南
Supertone Shift 是什么？ Supertone Shift是一款桌面客户端软件，利用先进的实时变声技术，让用户能够即时切换到任何选择的声音。适用于VTuber、内容创作者、游戏玩家以及任何希望准确表达所选角色声音的用户。 Superton...
-
llama_fastertransformer对话问答算法模型
LLAMA 论文 https://arxiv.org/pdf/2302.13971.pdf 模型结构 LLAMA网络基于 Transformer 架构。提出了各种改进，并用于不同的模型，例如 PaLM。以下是与原始架构的主要区别： 预归一化。为了提高...
-
智能汽车AI芯片第一股！黑芝麻智能在港交所上市
快科技8月8日消息，智能汽车AI芯片第一股黑芝麻智能于今日在港交所挂牌上市。 根据公告，黑芝麻智能香港IPO发行价定为每股28港元，拟全球发售3700万股股份，筹资10.36亿港元。 数据显示，黑芝麻智能上市首日低开，当前稳定在20港元左右。 据悉，黑芝麻...
-
llama-agentic-system
文章目录 一、关于 llama-agentic-system 二、LLama代理系统安装和设置指南 1、创建Conda环境 2、运行FP8 3、作为包安装 4、测试安装 5、下载检查点（或使用现有模型） 6、配置推理服务器配置 7、运行推理服...
-
Llama-2 vs. Llama-3：利用微型基准测试（井字游戏）评估大模型
编者按： 如何更好地评估和比较不同版本的大语言模型？传统的学术基准测试固然重要，但往往难以全面反映模型在实际应用场景中的表现。在此背景下，本文作者别出心裁，通过让 Llama-2 和 Llama-3 模型进行井字游戏对决，为我们提供了一个新颖而有趣的模型评...
-
开源模型也能强过闭源？Llama 3.1-405B数值对标GPT4！
Llama 3.1-405B引起AI浪潮：开源模型也能强过闭源？ Llama 3.1 就这几天，只要你有在关注AI相关的事，你就会看见一群人在讨论 Meta 新出的 Llama 3.1。外网无数的业内大佬都在为之疯狂，因为 Llama3...
-
快速体验LLaMA-Factory 私有化部署和高效微调Llama3模型（曙光超算互联网平台异构加速卡DCU）
序言 本文以 LLaMA-Factory 为例，在超算互联网平台SCNet上使用异构加速卡AI 显存64GB PCIE，私有化部署Llama3模型，并对 Llama3-8B-Instruct 模型进行 LoRA 微调、推理和合并。 快速体验基础版本，...
-
llama-cpp-python
文章目录 一、关于 llama-cpp-python 二、安装 安装配置 支持的后端 Windows 笔记 MacOS笔记 升级和重新安装 三、高级API 1、简单示例 2、从 Hugging Face Hub 中提取模型 3、聊天完成...
-
AI绘画；（Stable Diffusion进阶篇：模型训练）
前言 在上一篇笔记中学习了解了一部分关于Stable Diffusion的运行原理，今天就来接着学习下Stable Diffusion关于微调训练方面的知识点。 今天没多少废话，因为我下午要去玩PTCG！让我们冲冲冲 整理和输出教程属实不易，觉得这...
-
Meta发布Llama 3.1 405B模型：开源与闭源模型之争的新篇章
引言 在人工智能领域，开源与闭源模型之争一直是热点话题。近日，Meta发布了最新的Llama 3.1 405B模型，以其强大的性能和庞大的参数规模，成为了开源模型中的佼佼者。本文将详细介绍Llama 3.1 405B模型的性能、功能及其在开源领域的影响...
-
买不到GPU，马斯克自曝AI巨兽Dojo！自研超算挑战英伟达，约等于8千块H100
【新智元导读】多年来，马斯克一直在公开谈论Dojo——这台超算将成为特斯拉人工智能雄心的基石。他最近表示，随着特斯拉准备在10月推出Robotaxi，AI团队将「加倍投入」Dojo。 为了训出最强Grok3，xAI耗时19天，打造了由10万块H100组成的...
-
如何定量分析 Llama 3，大模型系统工程师视角的 Transformer 架构
读完全文后，你将获得回答以下问题的能力（参考答案，请见最后一章节）： Llama 3 技术博客说 70B 模型、最长序列 8K、15T Tokens，训练了 640w GPU 时，这发挥了 H100 理论算力（989TFlops）的百分之多少?...
-
安装和微调大模型（基于LLaMA-Factory）2-补充资料
安装代码 https://github.com/echonoshy/cgft-llm/blob/master/llama-factory/README.md https://github.com/hiyouga/LLaMA-Factory/tree/m...
-
部署LLaMA-Factory及微调大模型测试
安装过程 安装依赖 按照GitHub上介绍的过程安装即可GitHub - hiyouga/LLaMA-Factory: Unify Efficient Fine-Tuning of 100+ LLMshttps://github.com/hiyouga...
-
Win环境下Ollama+OpenWebUI本地部署llama教程
本文将简单介绍如何在Windows环境下通过Ollama本地部署大语言模型（LLM），并通过OpenWebUI实现访问。 一、准备工作 1. 系统要求 操作系统：Windows 10 或更新版本 内存：16GB 以上 GPU：性能和显存足够，如RT...
-
Meta 发布 LLAMA 3.1；特斯拉无人出租车推迟至 10 月；谷歌将向 Waymo 再投 50 亿美元
Meta 发布 LLAMA 3.1 开源人工智能模型 北京时间 7 月 24 日，Meta 正式发布 Llama 3.1 开源大语言模型，提供 8B、70B 及 405B 参数版本。据介绍，Llama 3.1 系列改进了推理能力及多语言支持，上下文长度提...
-
Ubuntu部署Stable Diffusion WebUI应用
本文主要讲述Ubuntu部署Stable Diffusion WebUI应用的部署教程，及在部署过程中可能遇到的问题及解决方法。 1. 部署教程 本次安装教程使用的系统配置是: CPU ：10核，内存：220GB GPU ：L20，...
-
小米澎湃OS 2曝光：主攻方向是AI
快科技8月3日消息，博主数码闲聊站爆料，{tag_keyurl_2} 2新系统的主攻方向是AI，这次澎湃OS将会在全场景贯彻落地AI功能。 目前AI功能已在澎湃OS上线，比如小米14 Ultra首发的AI大模型计算摄影平台Xiaomi AISP。 小米工程...
-
LLM大语言模型-ChatGPT、LLaMA、ChatGLM、文心一言、通义千问
LLM大语言模型-ChatGPT、LLaMA、ChatGLM、文心一言、通义千问 一、LLM与PLM主要区别： LLM表现出PLM所没有的Emergent Abilities（涌现能力）,这些能力是LLM在复杂任务上表现惊人的关键，使得得人工智能算...
-
普通电脑也能跑大模型，三步搞定私人AI助手 | LLaMA-3本地部署小白攻略
“ 在你的电脑上运行一个强大的AI助手，它不仅能力超群，还把所有秘密都藏在你的硬盘里。好奇这是如何实现的吗？动动手，三分钟就可以完成LLaMA-3的本地部署！” 01 — LLaMA-3 最近在试验检索增强生成（RAG）...
-
安装llama_factory
第一版： nvidia-smi git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory/ llamafactory-cli train examples/tr...
-
深度学习论文: LLaMA: Open and Efficient Foundation Language Models
深度学习论文: LLaMA: Open and Efficient Foundation Language Models LLaMA: Open and Efficient Foundation Language Models PDF:https://ar...
-
SidebarDiagnostics体验报告：高效便捷，电脑硬件监控新利器，你确定不进来了解一下？
前言 嘿，各位小伙伴们，我是小江湖！今天我要给你们安利一款超级炫酷的软件！你是不是经常好奇自己的电脑到底在卖力工作还是偷偷打盹呢？哈哈，我也是！所以，当我发现这款宝藏软件时，简直是眼前一亮，心里那个激动啊，就像找到了失散多年的宝藏一样！ 这款软件啊，...
-
AIGC-ComfyUI工作流基础篇-入门教程
一、前沿 随着人工智能技术的日益成熟和广泛应用，艺术创作领域正经历着一场革命性的变革。特别是AIGC（人工智能生成内容）技术的崛起，为内容创作提供了前所未有的高效和便捷。在这场变革中，Comfyui作为一款前沿的AI绘画软件，正引领着艺术创作的新潮流。...
-
GPU训Llama 3.1疯狂崩溃，竟有大厂用CPU服务器跑千亿参数大模型？
马斯克19天建成由10万块H100串联的世界最大超算，已全力投入Grok3的训练中。 与此同时，外媒爆料称，OpenAI和微软联手打造的下一个超算集群，将由10万块GB200组成。 在这场AI争霸赛中，各大科技公司们卯足劲加大对GPU的投资，似乎在暗示着拥...
-
击败GPT-4o的开源模型如何炼成？关于Llama 3.1 405B，Meta都写在这篇论文里了
经历了提前两天的「意外泄露」之后，Llama 3.1 终于在昨夜由官方正式发布了。 Llama 3.1 将上下文长度扩展到了 128K，拥有 8B、70B 和 405B 三个版本，再次以一已之力抬高了大模型赛道的竞争标准。 对 AI 社区来说，...
-
【扩散模型】LCM LoRA:一个通用的Stable Diffusion加速模块
潜在一致性模型：[2310.04378] Latent Consistency Models: Synthesizing High-Resolution Images with Few-Step Inference (arxiv.org 原文：Pape...
-
Linux系统上部署Whisper。
Whisper是一个开源的自动语音识别（ASR）模型，最初由OpenAI发布。要在本地Linux系统上部署Whisper，你可以按照以下步骤进行： 1. 创建虚拟环境 为了避免依赖冲突，建议在虚拟环境中进行部署。创建并激活一个新的虚拟环境： 如果不...
-
使用LLaMA-Factory对Llama3-8B-Chinese-Chat进行微调
文章目录 模型及数据： 模型下载 数据 LLaMA-Factory启动 拉取代码 启动webui 模型训练 数据导入 数据预览 设置模型路径 配置参数及参数的保存 开始训练 过程观察 加载模型、对话 模型导出、再次加载...
-
政安晨【零基础玩转各类开源AI项目】基于Ubuntu系统部署ComfyUI：功能最强大、模块化程度最高的Stable Diffusion图形用户界面和后台
目录 ComfyUI的特性介绍 开始安装 做点准备工作 在Conda虚拟环境中进行 依赖项的安装 运行 政安晨的个人主页：政安晨 欢迎 👍点赞✍评论⭐收藏 收录专栏: 零基础玩转各类开源AI项目 希望政安晨的博客能够对...