-
[机器学习]-如何在 MacBook 上安装 LLama.cpp + LLM Model 运行环境
如何在 MacBook 上安装 LLama.cpp + LLM Model 运行环境 1. 问题与需求 近段时间想学习一下大语言模型的本地化部署与应用。首先遇到的就是部署硬件环境的问题。我自己的笔记本是一台 MacBook Pro M3，没有 Nv...
-
玩转AI绘画：一文教小白入门MidJourney与StableDiffusion两大AI绘画神器！| 系列之一
所有的AI绘画工具，模型和插件，都已经整理好了，文末扫码即可免费获取噢~ 如果说早期的AI绘图可能还是以娱乐为主，那么现在的AI绘图已经达到了以假乱真的地步。大量的自媒体人、某宝店主、甚至设计公司都已经开始借助AI来替代传统的设计公司、美工与作图软件。除...
-
AFAC2024-基于保险条款的问答 比赛日记 llamafactory qwen npu 910B1
AFAC2024: 基于保险条款的问答挑战——我的实战日记 概述 在最近的AFAC2024竞赛中，我参与了基于保险条款的问答赛道。这是一次深度学习与自然语言处理的实战演练，旨在提升模型在复杂保险文本理解与问答生成方面的能力。本文将分享我的参赛过程，...
-
AI绘画工具SD的安装
目录 Stable Diffusion软件包的官方下载地址是什么？ 如何确保设备满足Stable Diffusion的硬件与软件要求？ 硬件要求 软件要求 Stable Diffusion安装过程中常见的问题及其解决方案有哪些？ 如何选择适...
-
欢迎 Llama 3：Meta 的新一代开源大语言模型_meta llama guard 2
介绍 Meta 公司的 Llama 3 是开放获取的 Llama 系列的最新版本，现已在 Hugging Face 平台发布。看到 Meta 持续致力于开放 AI 领域的发展令人振奋，我们也非常高兴地全力支持此次发布，并实现了与 Hugging Fac...
-
OpenAI 已与博通洽谈开发新型 AI 芯片以保持领先优势
OpenAI 正在与包括博通（Broadcom）在内的半导体设计公司进行谈判，讨论开发新芯片的事宜。这家人工智能公司希望借此减少对英伟达（Nvidia）的依赖，并加强其供应链。 这些谈判是由 OpenAI 的联合创始人兼首席执行官 Sam Altman...
-
阿里云全面升级GPU云服务：AI大模型推理性能可提升100%
快科技7月19日消息，阿里云推出全面升级的GPU云服务，通过全新优化GPU套件，多GPU推理服务性能可最大提升100%。 针对调用GPU算力最常用的容器技术，阿里云推出ACK云原生AI套件，帮助开发者及企业更高效地开发和部署AI应用，加速大模型应用落地。...
-
AI日报：OpenAI发布GPT-4o mini；豆包浏览器插件上线播客和视频总结功能；DeepL推翻译神器
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、OpenAI发布GPT-4o...
-
AI算法画小姐姐，AMD显卡比顶级CPU快30倍！AMD Radeon显卡Stable Diffusion AI画图体验测试
从Stable Diffusion这一AI应用出现之后，在极短时间内就迅速走红，成为众多玩家口口相传的“最美小姐姐”生成工具。不过这一AI计算画图工具在Stable Diffusion官方推出之初，无论是WEB UI的部署还是模型的训练生成，都基本是基于N...
-
Llama - 微调
本文翻译整理自：https://llama.meta.com/docs/how-to-guides/fine-tuning 文章目录 微调 实验跟踪 Recipes PEFT LoRA torchtune Hugging Face PE...
-
Streaming local LLM with FastAPI, Llama.cpp and Langchain
题意： 使用FastAPI、Llama.cpp和Langchain流式传输本地大型语言模型 问题背景： I have setup FastAPI with Llama.cpp and Langchain. Now I want to enable...
-
大模型学习笔记3【大模型】LLaMA学习笔记
文章目录 学习内容 LLaMA LLaMA模型结构 LLaMA下载和使用 好用的开源项目[Chinese-Alpaca](https://github.com/ymcui/Chinese-LLaMA-Alpaca Chinese-Alpaca...
-
使用llama.cpp量化模型
文章目录 概要 整体实验流程 技术细节 小结 概要 大模型量化是指在保持模型性能尽可能不变的情况下，通过减少模型参数的位数来降低模型的计算和存储成本。本次实验环境为魔搭社区提供的免费GPU环境（24G），使用Llama.cpp进行...
-
AIGC专栏13——ComfyUI 插件编写细节解析-以EasyAnimateV3为例
AIGC专栏13——ComfyUI 插件编写细节解析-以EasyAnimateV3为例 学习前言 什么是ComfyUI 相关地址汇总 ComfyUI EasyAnimateV3 节点例子 复杂例子-以EasyAnimateV3为例 节点文...
-
“全网最全”LLM推理框架集结营 - 看似微不足道，却决定着AIGC项目的成本、效率与性能!
00-前序 随着ChatGPT、GPT-4等大语言模型的出现，彻底点燃了国内外的学者们与企业家们研发LLM的热情。国内外的大语言模型如雨后春笋一般的出现，这些大语言模型有一部分是开源的，有一部分是闭源的。 伴随着大语言模型的出现，国内外基于大语言模型...
-
【AIGC】二、mac本地采用GPU启动keras运算
mac本地采用GPU启动keras运算 一、问题背景 二、技术背景 三、实验验证 本机配置 安装PlaidML 安装plaidml-keras 配置默认显卡 运行采用 CPU运算的代码 step1 先导入keras包，导入数据cifar...
-
零代码教你安装部署Stable Diffusion 3，一键生成高质量图像
本文分享自华为云社区《重磅！【支持中文】stable-diffusion-3安装部署教程-SD3 来了》，作者：码上开花_Lancer。 正如承诺的那样，Stability AI在6月12日正式开源了Stable Diffusion 3（Medium版本...
-
How Stable Diffusion was built: Tips and tricks to train large AI models
How's everyone doing? Yay. Thank you for being your last session for us today. I'm sure you're waiting for your beers right now....
-
Midjourney基础参数详解
Imagine 关键词后缀参数 参数是添加到提示中的选项，可更改图像的生成方式。参数可以更改图像的纵横比、在 Midjourney 模型版本之间切换、更改使用的 Upscaler 等等。 参数总是添加到提示的末尾。您可以向每个提示添加多个参数。...
-
七彩虹展出iGame RTX AI PC体验区：本地AI算力远超普通PC
快科技7月13日消息，AI正不断发展，飞速提升着人们的工作效率，并改变生活方式。 作为AI领导企业，英伟达不断改进GPU的AI功能与特性，使GeForce RTX 40系列GPU成为当下用于AI运算的强大引擎。 在Bilibili World展会上，七彩虹...
-
聚观早报 | 理想L6正式发布；Meta发布Llama 3
聚观早报每日整理最值得关注的行业重点事件，帮助大家及时了解最新行业动态，每日读报，就读聚观365资讯简报。 整理丨Cutie 4月20日消息 理想L6正式发布 Meta发布Llama 3 比亚迪秦L内饰曝光 小米14 Ultra推送新版澎湃...
-
深入了解语音识别：Distil-Whisper
Distil-Whisper模型概述 1.1 Distil-Whisper的背景与意义 随着语音识别技术的不断发展，模型的大小和计算复杂度成为了制约其广泛应用的重要因素。特别是在边缘设备和实时应用场景中，对模型的效率和性能提出了更高的要求。Dist...
-
如何使用Whisper语音识别模型
Whisper 是一个通用语音识别模型，由 OpenAI 开发。它可以识别多种语言的语音，并将其转换为文本。Whisper 模型采用了深度学习技术，具有高准确性和鲁棒性。 1、技术原理及架构 Whisper 的工作原理：音频被分割成...
-
Ubuntu安装大模型LLama，实操步骤
前言 因为国内镜像源不太清楚有没有最新的仓库源，我是推荐用科学上网工具，都已经玩大模型了，这个都没有的话就直接算了吧 这个是面向有一定的Linux使用经验的人员，有一些细节没有展开讲，而且每个人电脑环境都不同，就算严格按照步骤来，也有可能出现各种各...
-
Chinese-LLaMA-Alpaca-2模型量化部署&测试
简介 Chinese-LLaMA-Alpaca-2基于Meta发布的可商用大模型Llama-2开发, 是中文LLaMA&Alpaca大模型的第二期项目. 量化 模型的下载还是应用脚本 bash hfd.sh hfl/chinese-al...
-
国产大模型第一梯队玩家，为什么pick了CPU？
AI一天，人间一年。 现在不论是大模型本身，亦或是AI应用的更新速度简直令人直呼跟不上—— Sora、Suno、Udio、Luma……重磅应用一个接一个问世。 也正如来自InfoQ的调查数据显示的那般，虽然AIGC目前还处于起步阶段，但市场规模已初具雏形:...
-
[大模型]Llama-3-8B-Instruct FastApi 部署调用
环境准备 在 Autodl 平台中租赁一个 3090 等 24G 显存的显卡机器，如下图所示镜像选择 PyTorch-->2.1.0-->3.10(ubuntu22.04 -->12.1。 接下来打开刚刚租用服务器的 JupyterL...
-
Llama 3 模型微调的步骤
环境准备 操作系统：Ubuntu 22.04.5 LTS Anaconda3：Miniconda3-latest-Linux-x86_64 GPU： NVIDIA GeForce RTX 4090 24G Step 1. 准备conda环境 创...
-
Stable Diffusion云端部署安装教程
方法1【推荐】：Autodl云端安装步骤 云端网址: 【点击直达】 注册并认证。 充值并租用云端电脑 部署云端请参考以下图片 选择你们喜欢的镜像，就可以直接租用了 推荐这个镜像 记得多看使用说明哦，好记性不如多实操...
-
【Qwen2部署实战】llama.cpp：一键部署高效运行Qwen2-7B模型
系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...
-
Ollama&llama
Olllama 直接下载ollama程序，安装后可在cmd里直接运行大模型； llama 3 meta 开源的最新llama大模型； 下载运行 1 ollama ollama run llama3 2 github...
-
Meta Llama 3 来啦！性能算力究竟如何？
新一代大语言模型 Meta Llama 3 横空出世！ 前言 就在4月19日，Meta公司推出了他们最新开源的大型语言模型(LLM Llama 3！这次的Llama 3包含了8B和70B两种不同参数规模的模型。那么作为Llama的第三代模型它...
-
AI绘画 | 超详细Midjourney教程，值得收藏！
一、Midjourney 的提示词 1、提示可以包括一个或多个图像 URL、多个文本短语以及一个或多个参数 1）Image Prompts（图像提示）：可以将图像 URL 添加到提示中以影响最终结果的样式和内容。图像 URL 始终出现在提示的...
-
14-31 剑和诗人5 - 使用 AirLLM 和分层推理在单个 4GB GPU 上运行 LLama 3 70B
利用分层推理实现大模型语言(LLM 大型语言模型 (LLM 领域最近取得了显著进展，LLaMa 3 70B 等模型突破了之前认为可能实现的极限。然而，这些模型的庞大规模给其部署和实际使用带来了巨大挑战，尤其是在资源受限的设备上，例如内存有限的 GPU...
-
OpenAI之Whisper实时语音分析转文字
1.安装ffmpeg 2.安装python3.11 3.安装whisper pip install whisper conda环境安装whisper conda install whisper 命令行安装openai-whisper...
-
AIGC专栏12——EasyAnimateV3发布详解 支持图&文生视频 最大支持960x960x144帧视频生成
AIGC专栏12——EasyAnimateV3发布详解 支持图&文生视频 最大支持960x960x144帧视频生成 学习前言 项目特点 生成效果 相关地址汇总 项目主页 Huggingface体验地址 Modelscope体验地址 源...
-
小白上手AIGC-基于PAI-DSW部署Stable Diffusion文生图Lora模型
小白上手AIGC-基于PAI-DSW部署Stable Diffusion文生图Lora模型 前言 资源准备 开启体验服务 创建工作空间 部署服务 创建DSW实例 安装Diffusers 启动WebUI 写在最后 前言 在上...
-
马斯克豪掷40亿训Grok-3，红杉高盛大泼冷水，AI收支鸿沟或已达5000亿美元
马斯克为Grok3要豪掷近40亿美元狂买10万张H100，GPT-6的训练则可能要耗资百亿。然而红杉和高盛近日都给行业泼了冷水:每年要挣6000亿美元才能支付的巨额硬件支出，换来的却只是OpenAI34亿美元的收入，绝大多数初创连1亿美元都达不到。而如果全...
-
锐龙AI 7 PRO 360首次现身：诡异的3个Zen5＋5个Zen5c
快科技7月7日消息，除了面向消费级笔记本的锐龙AI 300系列，AMD还在准备主打商务领域的锐龙AI 300 PRO系列，已知至少两款型号锐龙AI 9 HX PRO 370(真长啊 、锐龙AI 7 PRO 360。 原本预计它俩的规格会分别对应锐龙AI 9...
-
AIGC | 为机器学习工作站安装NVIDIA 4070 Ti Super显卡驱动
[ 知识是人生的灯塔，只有不断学习，才能照亮前行的道路 ] 0x00 前言简述 话接上篇《AIGC | Ubuntu24.04桌面版安装后必要配置》文章，作为作者进行机器学习的基础篇（筑基期），后续将主要介绍机器学习环境之如何在Ubun...
-
配备国产6nm 5G芯片！中兴小鲜60手机曝光：还有内置AI大模型
快科技7月7日消息，中兴通讯即将推出的小鲜60手机已在中国电信终端产品库中曝光，这款手机搭载了紫光展锐T760 5G处理器，这是一款使用6nm工艺制造的国产芯片， 具备4个2.2GHz Cortex-A76核心和4个Crotex-A55核心，配备以及Mai...
-
马斯克豪掷40亿训Grok-3！红杉高盛大泼冷水，AI收支鸿沟或已达5000亿美元
【新智元导读】马斯克为Grok3要豪掷近40亿美元狂买10万张H100，GPT-6的训练则可能要耗资百亿。然而红杉和高盛近日都给行业泼了冷水:每年要挣6000亿美元才能支付的巨额硬件支出，换来的却只是OpenAI34亿美元的收入，绝大多数初创连1亿美元都达...
-
[AI里程碑]StableDiffusion3今日开源 | 首个开源超越Midjourney
⚡[AI里程碑]StableDiffusion3今日开源 | 首个开源超越Midjourney 2024年6月12日，Stable Diffusion 3 Medium的开源代表了生成式 AI 发展的一个重要里程碑。 StableDiffu...
-
全方位了解 Meta Llama 3
本文将为您提供 Llama 3 的全面概览，从其架构、性能到未来的发展方向，让您一文了解这一革命性大语言模型的所有要点。 Meta Llama 发展历程 Llama 1 Llama 是由 Meta(FaceBook AI 发布的一个开源项目...
-
探索新一代图像生成：Stable Diffusion ROCm Docker
探索新一代图像生成：Stable Diffusion ROCm Docker 在人工智能和深度学习领域，创新的脚步从未停止。现在，我们有机会体验到一款专门为AMD Radeon GPU优化的开源项目——Stable Diffusion ROCm Dock...
-
Stable Diffusion 实操教程：轻松掌握图像生成技术
一、引言 Stable Diffusion 是一种强大的图像生成技术，通过利用扩散模型，能够生成高质量的图像。在当前的人工智能领域，Stable Diffusion 已被广泛应用于艺术创作、图像增强和生成等多个领域。本篇文章将详细介绍 Stable Di...
-
语音识别教程：Whisper
语音识别教程：Whisper 一、前言 最近看国外教学视频的需求，有些不是很适应，找了找AI字幕效果也不是很好，遂打算基于Whisper和GPT做一个AI字幕给自己。 二、具体步骤 1、安装FFmpeg Windows: 进入 ht...
-
Stable Diffusion图像的脸部细节控制——采样器全解析
文章目录 艺术地掌控人物形象 好易智算 原因分析 为什么在使用Stable Diffusion生成全身图像时，脸部细节往往不够精细？ 解决策略 局部重绘 采样器 总结 艺术地掌控人物形象 在运用Stable Diffusion...
-
全网都在找的Stable Diffusion本地部署教程（小白100%成功）
1、Stable Difussion是完全免费的，部署在自己本地电脑上使用即可，软件完全免费，但是算力不免费，这就主要牵扯到显卡GPU上，当然cpu也有关系，但是关系比较小。 2、查看自己电脑相关配置信息，在电脑底部搜索栏搜索“任务管理器” 显卡（N卡）...
-
【小沐学AI】Python实现语音识别（whisperX）
文章目录 1、简介 1.1 whisper 1.2 whisperX 2、安装 2.1 安装cuda 2.2 安装whisperX 结语 1、简介 1.1 whisper https://arxiv.org/pdf/2...