-
推荐 3 款超好用的Whisper离线AI语音转文字客户端
Whisper 是 OpenAI 开源的一个强大的通用语音识别模型，它使用了超过 68 万小时多语言来训练，支持了 99 种不同语言的转录，够实现高准确性的语音识别，尤其对于英文，识别度接近人类水平。 下面给大家推荐 3 款集成了这个模型的客户端。...
-
Mozilla 开源 llamafile:大语言模型分发与部署新范式
引言 随着 ChatGPT、BERT 等大型语言模型(Large Language Model, LLM 在自然语言处理领域掀起巨大波澜,AI 技术正以前所未有的速度走近大众生活。然而,这些 LLM 的训练和推理对计算资源提出了极高要求,动辄数十甚至数百...
-
LLM2Vec介绍和将Llama 3转换为嵌入模型代码示例
嵌入模型是大型语言模型检索增强生成(RAG 的关键组成部分。它们对知识库和用户编写的查询进行编码。 使用与LLM相同领域的训练或微调的嵌入模型可以显著改进RAG系统。然而，寻找或训练这样的嵌入模型往往是一项困难的任务，因为领域内的数据通常是稀缺的。 但...
-
Stable Diffusion 3上线：登顶最强开源AI绘画模型，笔电手机都能跑丨大量实测
万众瞩目的Stable Diffusion 3终于正式开源了！ 目前开源的是20亿参数的版本，据悉之后还会开源40亿和80亿的“大杯”与“超大杯”。 最近母公司Stability AI的坏消息连连，据传账面现金都不够支付算力服务器的租赁费。 欠债一亿...
-
AI绘画保姆级教程 | 比Remini更好的黏土风格
原文教程：https://docs.loopin.network/zh/tutorials/stablediffusion/comfyui-how-to-implement-clay-style-filtersComfy UI 是一种节点化操作界面，它比其...
-
Etched公司推出了专为变压器模型设计的定制芯片在Llama 70B模型上每秒可处理超过500,000个token。这一速度比NVIDIA即将推出的顶级GPU GB200快了一个数量级。
每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同...
-
Windows安装Stable Diffusion Comfy UI工作流的方法
想要Stable diffusion安装包的小伙伴可以在文末扫码，我给大家免费安排！一、安装环境示例 CPU：i9-13900KF / 显卡：3090 / 内存：64GB / 系统：Win10 二、下载安装Comfy UI安装包 2.1、下载安装...
-
【大模型】大模型 CPU 推理之 llama.cpp
【大模型】大模型 CPU 推理之 llama.cpp llama.cpp 安装llama.cpp Memory/Disk Requirements Quantization 测试推理 下载模型 测试 参考 llama.cpp...
-
AI真·炼丹：整整14天，无需人类参与
现在制药这事，人类要靠边站了。 坐标苏州，这是一个1600平的制药实验室，它的“打开方式”是这样的: 门口，没有人。 走廊，没有人。 实验室，也没有人。 相比以往充斥着科学家、研究员的实验室，它更多的是把机械臂和AI系统塞了进去，主打的就是一个全自动...
-
#10 解决Stable Diffusion常见问题和错误
文章目录 前言 1. 环境配置错误 问题描述 解决方案 2. 模型加载失败 问题描述 解决方案 3. 图像生成质量差 问题描述 解决方案 4. 生成速度慢 问题描述 解决方案 5. 内存不足错误 问题描述 解决方案 结论...
-
【Stable Diffusion本地部署简易教程】从入门到实践
Stable Diffusion 本地部署指南：简单易懂的图文教程 引言 Stable Diffusion是一种深度学习模型，用于生成高质量的图像。本地部署意味着你可以在自己的计算机上运行这个模型，从而无需依赖于在线服务。本教程将循序渐进地指导你如...
-
详解各种LLM系列｜（5）LLaMA 3模型解析（Meta重磅发布！）
一、引言 Blog链接：https://ai.meta.com/blog/meta-llama-3/ MODEL CARD: https://github.com/meta-llama/llama3/blob/main/MODEL_CARD.md 体...
-
在阿里云上用LLaMA-Factory微调大模型
相信很多小伙伴都想自己手搓大模型，所以有大佬做了LLaMA-Factory，但是有工具还不行，还得有环境，说实话，我现在每天除了上班就是带孩子，连游戏都没得打，所以自己连个有GPU的电脑都没[苦笑]。 基于以上前提条件，唯一方法只得通过云服务来帮我们微调...
-
终于，Midjourney中文版来了，快来免费使用吧！
前言 在AI届，我们基于日常使用和评测效果基本上都可以有个大致判断，在文生文领域国产模型基本上可以说和GPT或者Claude是比较接近、甚至是超越的，比如文心或者最近大火的Kimi。 但是在文生图或图生图领域，国产模型还是很难于国外模型相媲美，我们甚...
-
#02 安装指南：如何配置Stable Diffusion环境
文章目录 前言 前置条件 第1步：安装Python和PIP 第2步：创建虚拟环境 第3步：安装PyTorch和CUDA 第4步：安装Stable Diffusion相关库 第5步：测试环境 结论 前言 在之前的文章中，我们介...
-
AI芯片成新一代电老虎：未来五年消耗全球1.5%以上的电力 产生11亿吨碳排放
快科技6月29日消息，AI芯片的快速增长，带来了耗电量的大幅增加。一些计算表明，AI所需的电力将在全球电力消耗中占据相当大的份额。 TechInsights表示，英伟达H100的峰值功耗为700瓦，与一台正在工作的微波炉的功耗大致相同。但随着超级芯片的更新...
-
通过ORPO技术微调 llama3大模型(Fine-tune Llama 3 with ORPO)
通过ORPO对llama进行微调 前言 ORPO是一种新颖的微调技术，它将传统的监督微调和偏好对齐阶段整合到一个过程中。这减少了训练所需的计算资源和时间。此外，经验结果表明，ORPO在各种模型大小和基准测试中都超过了其他对齐方法。 在本文中，我们将...
-
Google 深夜突袭，Gemma 2 狂卷 Llama 3
整理 | Echo Tang 出品丨AI 科技大本营（ID：rgznai100） Google 挤牙膏式的创新真是令人爱恨交织。 早在一个多月前的 Google I/O 上，Google 便官宣将会在未来几周内推出开源模型 Gemma 的第二代 Ge...
-
白嫖 Kaggle 部署 stable-diffusion
本文首发于我的个人博客 blog.csun.site Kaggle 每周有 30 个小时的免费 GPU 资源，可以使用 Kaggle 来部署 stable-diffusion 免费享受 AI 绘画服务。 部署代码 注册 Kaggle 后，打开这...
-
释放Stable Diffusion 无限可能
最近在整理大语言模型的系列内容，Stable Diffusion 是我下一篇博客的主题。关注 Stable Diffusion，是因为它是目前最受欢迎和影响力最大的多模态生成模型之一。Stable Diffusion 于 2022 年 8 月发布，主要用于...
-
文生图算法原理：从扩散模型到Stable Diffusion
导读 Stable Diffusion是扩散模型的一种实现。传统的扩散模型（如DDPM）的做法是在像素空间预测预测噪声图noise_t，输入是每一步的图片image_t和代表step的Time embedding，然后在图片image_t上减去模型预测...
-
使用 llama.cpp 在本地部署 AI 大模型的一次尝试
对于刚刚落下帷幕的2023年，人们曾经给予其高度评价——AIGC元年。随着 ChatGPT 的火爆出圈，大语言模型、AI 生成内容、多模态、提示词、量化…等等名词开始相继频频出现在人们的视野当中，而在这场足以引发第四次工业革命的技术浪潮里，人们对于人工智能...
-
技术突破：llamafile一键部署大模型，释放AI潜力
目录 一、引言 二、什么是llamafile？ 1、设计目标 2、技术构成 3、与传统部署方式的对比 4、一键部署的优势 三、核心特性 1、一键部署的便捷性 2、跨平台支持 3、独立可执行文件 4、简化的分发流程 5、技术细节 6、用户体...
-
Llama3-Tutorial（Llama 3 超级课堂） 学习笔记
课程资料 五一 Llama 3 超级课堂 | 第二节 Llama 3 微调个人小助手认知（XTuner版）_哔哩哔哩_bilibili SmartFlowAI/Llama3-Tutorial: Llama3-Tutorial（XT...
-
AI绘画SD3已来，本地首发实测体验，含本地部署说明（内附网盘模型及ComfyUI工作流下载）
大家好，我是画画的小强 SD3已来，Stability AI 此前宣布SD3将于6月12开源20 亿参数的SD3 模型SD3 Medium，昨天它已如期而至了。 根据官方内容所了解，SD3 Medium 可以说是目前很先进的文本到图像开放模型，包含 2...
-
InsCode Stable Diffusion使用教程（非常详细）从零基础入门到精通，看完这一篇就够了_outpainting 模型下载(3)
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。 需要这份系统化的资料的朋友，可以戳这里获取 一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣...
-
AIGC教程：Stable Diffusion精进，如何训练特定画风LoRA模型？
（全套教程文末领取哈） 文生图只是AI生成能力的起步，如今，随着同行们的探索增加，很多人已经开始通过Stable Diffusion训练风格化的模型，即将AI变成一个特定画风的画师。 最近，就有一位开发者分享了自己训练风格化LoRA模型的经验和技巧，并且...
-
打破 AIGC 算力困境，io.net 如何实现“GPU 互联网”？
AIGC 在全球快速发展的当下，诸多项目深陷 GPU 运力不足，速度放缓、任务宕机、项目崩溃等困境，作为瞄准 AI 理念和 DePIN 赛道的 Solana 生态项目新星 io.net 来说，如何集成项目控制与云计算服务成为抢占市场的重要发力方向。...
-
AI测试｜Windows下跑起大模型（Llama）操作笔记_软件测试大模型
先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7 深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！ 因此收集整理了一份《2024年最新软件测试全套学习资料》...
-
AIGC专栏11——EasyAnimateV2结构详解与Lora训练 最大支持768x768 144帧视频生成
AIGC专栏11——EasyAnimateV2结构详解与Lora训练 最大支持768x768 144帧视频生成 学习前言 源码下载地址 EasyAnimate V2简介 技术储备 Diffusion Transformer (DiT Mo...
-
AIGC 训练场景下的存储特征研究
云布道师 引言：在传统块存储大行其道的时代，需要针对很多行业的工作负载（Workload）进行调研，包含块大小、随机读、读写比例等等。知道行业的 Workload 对于预估业务的 I/OPS、时延、吞吐等性能有很好的指导意义，其次，也便于制定针对行业的...
-
揭秘XPU架构下AIGC的推理加速艺术--AI PC 新纪元：将 AI 引入 NPU，实现快速低功耗推理...
踏入AIPC新纪元 ，我们似乎穿越到了一个充满魔法的新世界 ，生成式AI和大模型如同现代法师 ，而AIPC和边缘计算则成为他们施展魔法的法杖，从AI聊天机器人到智能绘画工具， 再到数字化虚拟人物 ，魔法杖们不仅推动了新型处理器和计算架构的研发 ，也促...
-
Stable Diffusion部署教程，开启你的AI绘图之路
本文环境 系统：Ubuntu 20.04 64位 内存：32G 环境安装 2.1 安装GPU驱动 在英伟达官网根据显卡型号、操作系统、CUDA等查询驱动版本。官网查询链接https://www.nvidia.com/Download/index....
-
Stable diffusion 3 正式开源
6月12日晚，著名开源大模型平台Stability AI正式开源了，文生图片模型Stable Diffusion 3 Medium（以下简称“SD3-M”）权重。 SD3-M有20亿参数，平均生成图片时间在2—10秒左右推理效率非常高，同时对硬件的需求...
-
增强大型语言模型（LLM）可访问性：深入探究在单块AMD GPU上通过QLoRA微调Llama 2的过程
Enhancing LLM Accessibility: A Deep Dive into QLoRA Through Fine-tuning Llama 2 on a single AMD GPU — ROCm Blogs 基于之前的博客《使用Lo...
-
本地运行 Llama 3，可以中文，但不强
Llama 3 简介 大家好， 上个月 Meta 发布 Llama 3，大模型开源世界又热闹起来了。 Llama 3 提供两个版本（8B 和 70B）： **8B 版本适合在消费级 GPU 上高效部署和开发； 70B 版本则专为大规模 AI...
-
LlamaFactory-Ollama-Langchain大模型训练-部署一条龙
前言 近些日子，大模型火的一塌糊涂，那么现在就有义务要学习一套好用的、从 dataset --> train --> deploy 的一整套流程，好拿来装逼。话不多说，进入正题 Train 框架 目前好用的框架太多，如BELLE, C...
-
搭建自己的ai绘画网站教程
准备 首先需要一台GPU云服务器，这里推荐雨云的GPU云服务器： 雨云优惠注册地址：https://www.rainyun.com/MjM2ODU1_ 优惠码：MjM2ODU1_ 使用优惠码注册后绑定微信可获得5折优惠券 注册完账号后进...
-
一个账号玩遍ChatGPT/Claude-3/Midjourney 省钱又省力
当 OpenAI 的闭源 GPT-4 和 Meta 的开源 LLaMA 3 70B 模型在 Chatbot Arena Elo Score、MMLU 和 MT Benchmark 测试中表现出相当的性能时，选择更昂贵的专有模型（其成本高出 58 倍）的论...
-
一文看懂Llama 2：原理、模型与训练
一文看懂Llama 2：原理、模型与训练 Llama 2是一种大规模语言模型（LLM），由Meta（原Facebook）研发，旨在推动自然语言处理（NLP）领域的发展。本文将详细介绍Llama 2的原理、模型架构及其训练方法，以帮助读者深入理解这一技术...
-
本地搭建LLaMA-Factory环境进行大模型调优
LLaMA Factory LLaMA Factory快速对大模型进行快速调优，本文看一下如何本地搭建环境并调优，本文使用 ModelScope 社区中的模型，模型在国内，下载速度非常友好。 下载最新代码 ## LLaMA Factory官方 git...
-
提高Stable Diffusion渲染速度的技巧，来学习一下
了解如何使用快速、简单的修复将渲染速度提高高达 50%。了解特定配置如何优化您的Stable Diffusion过程并提高 Nvidia显卡上的渲染效率。ai绘图渲染速度太慢怎么办？请继续阅读，了解如何实现这个三秒解决方案并最大限度地提高渲染速度，想要提高...
-
Llama 3-V：以100倍小的模型和500美元匹敌GPT4-V视觉模型
概述 Llama3 的横空出世震惊了世界，它在几乎所有基准测试中都超越了 GPT-3.5，并在一些方面超越了 GPT-4。随后，GPT-4o 的出现凭借其多模态能力再次夺回了王座。今天，我们发布了一个改变现状的产品：Llama3-V，这是首个基于 Ll...
-
Stable Diffusion 3 如何下载安装使用及性能优化
Stable Diffusion 3 Stable Diffusion 3（SD3），Stability AI最新推出的Stable Diffusion模型系列，现在可以在Hugging Face Hub上使用，并且可以与Diffusers一起使用。...
-
重磅！Meta 发布 Llama 3，前所未有的强大功能和多模态能力｜TodayAI
Meta今日宣布推出其最新一代尖端开源大型语言模型Llama 3。该模型预计很快将在多个领先的云服务平台上线，包括AWS、Databricks、Google Cloud、Hugging Face、Kaggle、IBM WatsonX、Microsoft A...
-
（5-5-02）金融市场情绪分析：使用Llama 2 大模型实现财经信息的情感分析微调（2）
5.5.4 Llama-2语言模型操作 编写下面的代码，功能是加载、配置 Llama-2 语言模型以及其对应的分词器，准备好模型为后续的对话生成任务做好准备。 model_name = "../input/llama-2/pytorch/7b-h...
-
Stable Diffusion模型训练 — 前菜
图像生成模型原理简析 你有没有好奇过，AI图像生成模型是怎么学会“绘画”的吗？人工智能（Artificial Iitelligence）这个概念是在1956年的达特矛斯会议上提出来的认为机器可以模仿人类的学习以及其他方面的智能，后世也将实现人工智能的方式...
-
Intel Arc显卡安装Stable Diffusion
StableDiffusion是一种基于深度学习的文本到图像生成模型，于2022年发布。它主要用于根据文本描述生成详细图像，也可应用于其他任务，如内补绘制、外补绘制和在提示词指导下生成图像翻译。通过给定文本提示词，该模型会输出一张匹配提示词的图片。...
-
Stable Diffusion安装记录II
文章目录 前言 0 更改python路径（跳过） 1 Torch is not able to use GPU 1.1 确认显卡 1.2 安装nvdia驱动 1.3 检查CUDA 1.4更改启动脚本 2 依赖安装 2.1 pip inst...
-
llama 3 震撼来袭 8B 150k 词元 8Ktoken长度 4T token 参与预训练与对齐训练 使用GQA
Meta开发了并发布了Meta Llama 3系列大型语言模型(LLMs ，这是一组在8亿和70亿参数规模下预训练和指令调整的生成文本模型。Llama 3的指令调整模型针对对话用例进行了优化，并在常见的行业基准测试中超越了众多开源聊天模型。在开发这些模型时...