-
Llama.cpp工具main使用手册
Llama.cpp提供的 main工具允许你以简单有效的方式使用各种 LLaMA 语言模型。 它专门设计用于与 llama.cpp 项目配合使用。 推荐：用 NSDT编辑器 快速搭建可编程3D场景 Llama.cpp的工具 main提供简...
-
小米卢伟冰：AI是未来 但AI手机是噱头
快科技3月4日消息，最近一段时间，AI手机”成了数码圈热词，有人认为，2024年是AI手机元年”，业内许多大佬也对AI手机发表了自己的观点。 今日，小米集团总裁卢伟冰微博发文称，我在MWC的一段采访，引发了大家一直在讨论AI手机到底是未来还是噱头。由于视频...
-
【MacOS】openai 语音识别模型 whisper 本地部署教程（cpu+mps方案）
目录 1. whisper 安装 openai-whisper 参考视频链接与安装过程 安装homebrew 安装Python （不要超过3.10） 安装Pytorch 安装ffmpeg 安装rust 安装whisper 注意事项 可...
-
OpenReplay官网体验入口 AI会话回放用户行为分析工具下载地址
OpenReplay是一个自托管的会话回放和分析工具，适用于重现问题、与用户共同浏览以及优化产品。它能够捕获网络活动、控制台日志、JS错误、存储操作/状态、页面速度指标、CPU/内存使用情况等，支持Web、iOS和React Native应用。OpenRe...
-
windows安装stable-diffusion-webui教程
整合包对非技术出身的同学比较友好，因为秋叶大佬把相关的东西已经都整合好了，只需要点点点就行了。当然懂编程的同学就更没有问题了。 准备 为了保证AI绘画的效率，建议在本机安装Nvidia独立显卡，也就是俗称的N卡，并且显存要达到6G以...
-
Stable diffusion 安裝使用
GitHub - AUTOMATIC1111/stable-diffusion-webui: Stable Diffusib UI**github：stable-diffusion-webui下載，**全程最好科學上網 1.無需下載git 可直接 Cod...
-
AI测试｜Windows下跑起大模型（Llama）操作笔记
2024软件测试面试刷题，这个小程序（永久刷题），靠它快速找到工作了！（刷题APP的天花板）_软件测试刷题小程序-CSDN博客文章浏览阅读2.5k次，点赞85次，收藏11次。你知不知道有这么一个软件测试面试的刷题小程序。里面包含了面试常问的软件测试基础题，...
-
LLaMA-Factory 基于docker的大模型多卡分布式微调
LLaMA-Factory是一个相当优秀的微调工具。这里提供一个dockerfile和一个train脚本，用于多卡微调，供大家参考。 Dockerfile FROM nvidia/cuda:12.1.0-cudnn8-devel-ubuntu22.0...
-
一些安装AUTOMATIC1111的Stable Diffusion WebUI常遇到的错误消息的解决方式
确保电脑符合Stable Diffusion的系统需求 1. 电脑硬件需求 最低配备 建议配备 注解 显卡(GPU GTX1050Ti RTX3060Ti 支持的显卡芯片有Nvidia/AMD/Intel Arc/Apple M。 显...
-
AIGC下一步：如何用AI再度重构或优化媒体处理？
让媒资中“沉默的大多数”再次焕发光彩。 邹娟｜演讲者 编者按 AIGC时代下，媒体内容生产领域随着AI的出现也涌现出更多的变化与挑战。面对AI的巨大冲击，如何优化或重构媒体内容生产技术架构？在多样的应用场景中媒体内容生产技术又有着怎样的实践效...
-
Stable Diffusion——见识一下正在兴起的AIGC产业！
今天再水一天，转发一篇分享文 明后天我会发布关于个人靶场搭建和内网穿透的内容，大家可以关注一下 原文地址：Stable Diffusion——见识一下正在兴起的AIGC产业！ – Pleasure的博客 下面是正文部分： 前言 你或许曾在...
-
Stable Diffusion WebUI 常用命令行参数
本文收录于《AI绘画从入门到精通》专栏，专栏总目录：点这里。 大家好，我是水滴~~ 本文主要讲解 Stable Diffusion WebUI 的一些常用命令行参数，内容详细的介绍了每一种参数的使用，并配有截图，非常适合初学者食用。由于时间关系，介...
-
2024年自动驾驶标注行业是否会被世界模型所颠覆？
本文经自动驾驶之心公众号授权转载，转载请联系出处。 1.数据标注面临的问题(特别是基于BEV 任务） 随着基于BEV transformer 任务的兴起，随之带来的是对数据的依赖变的越来越重，基于BEV 任务的标注也变得越来越重要。目前来看无论是2D-...
-
Stable Diffusion ComfyUI 速度更快，控制更精准
一、前言 大家在使用Stable Diffusion（简称SD）时，通常是通过网页界面进行操作的。但你们有没有听说过ComfyUI呢？ ComfyUI是一个建立在节点流程上的SD操作界面。它通过流程节点来实现更细致的工作流定制以及更好的可复现性。 每...
-
Magika:基于AI支持的文件类型检测工具，依靠深度学习提供准确的检测
数字化时代，对我们所遇到的文件进行准确识别至关重要，这涉及到用户安全和信息保护的方方面面。然而，在处理众多文件格式时，如何准确迅速地检测文件内容成为一项挑战。现有方法可能并不总是高效或准确，可能导致潜在风险或误分类。 Magika作为一种创新的文件类型检测...
-
windows 下跑起大模型（llama）操作笔记
原贴地址：https://testerhome.com/topics/39091 前言 国内访问 chatgpt 太麻烦了，还是本地自己搭一个比较快，也方便后续修改微调啥的。 之前 llama 刚出来的时候在 mac 上试了下，也在 windows...
-
老黄祭出全新RTX 500 GPU，AIGC性能狂飙14倍！AI应用的门槛彻底被打下来了
在巴塞罗那举行的世界移动大会（MWC 2024）上，英伟达发布了最新款的入门级移动版工作站GPU，RTX 500 Ada和RTX 1000 Ada。 这两款入门级移动工作站GPU与之前发布的RTX 2000、3000、3500、4000和5000一起，构...
-
AIGC专栏9——Scalable Diffusion Models with Transformers （DiT）结构解析
AIGC专栏9——Scalable Diffusion Models with Transformers （DiT）结构解析 学习前言 源码下载地址 网络构建 一、什么是Diffusion Transformer (DiT 二、DiT的组成...
-
了解一下CPU 、TPU、GPU、DPU、QPU
随着AI的火爆，CPU 、TPU、GPU、DPU、QPU这些缩略词整天在各种媒体里面飞来飞去。本文主要解释这些处理器，以及他们的优缺点。 CPU（中央处理器） CPU就像计算机的“大脑”。它能够处理计算机工作的所有基本任务，例如：运行程序、管理文件和执行...
-
远超 IVF_FLAT、HNSW，ScaNN 索引算法赢在哪？
Faiss 实现的 ScaNN，又名 FastScan，它使用更小的 PQ 编码和相应的指令集，可以更为友好地访问 CPU 寄存器，展示出优秀的索引性能。 Milvus 从 2.3 版本开始，在 Knowhere 中支持了 ScaNN 算法，在各项 be...
-
千卡利用率超98%，详解JuiceFS在权威AI测试中的实现策略
2023 年 9 月，AI 领域的权威基准评测 MLPerf 推出了 Storage Benchmark。该基准测试通过模拟机器学习 I/O 负载的方法，在不需要 GPU 的情况下就能进行大规模的性能压测，用以评估存储系统的在 AI 模型训练场景的适用性。...
-
真快！几分钟就把视频语音识别为文本了，不到10行代码
大家好，我是风筝 将音视频文件中的音频转为文字内容，这个需求放到两年前还不大好实现，但是放到今天，几分钟就解决了。 听说有的公司为了抓取训练数据，已经把抖音、快手这些短视频平台上的视频扒了个遍，然后将其中的音频提取成文本，用作大数据模型的训练语料。 如果...
-
Stable Diffusion学习指南【安装篇】
在上一篇的教程中，我为大家介绍了Stable Diffusion的原理、发展历程和优点，大家应该对Stable Diffusion这款AI绘画工具有了初步的了解，而这一篇我将教你如何在自己电脑上轻松部署WebUI。 Stable Diffusion历史文...
-
【Llama2 windows部署详细教程】第二节：llama.cpp成功在windows上编译的秘诀
Llama2 开源大模型推出之后，因需要昂贵的算力资源，很多小伙伴们也只能看看。好在llama.cpp推出之后，可对模型进行量化，量化之后模型体积显著变小，以便能在windows CPU环境中运行，为了避免小伙伴们少走弯路，下面将详细介绍llama.cpp...
-
【llm 微调code-llama 训练自己的数据集 一个小案例】
这也是一个通用的方案，使用peft微调LLM。 准备自己的数据集 根据情况改就行了，jsonl格式，三个字段：context, answer, question import pandas as pd import random import...
-
MyShell AI开发高质量语音合成工具MeloTTS 支持中英混合发音
MeloTTS是由MyShell AI开发的一个高质量的多语言文本到语音（TTS）库。这个库支持英语、西班牙语、法语、中文、日语和韩语等多种语言，使其在全球范围内具有广泛的应用价值。 项目地址:https://top.aibase.com/tool/me...
-
高通推出AI Hub，方便开发者在设备上访问和下载AI模型
随着在个人设备上的设备 AI 变得更加普及。在世界移动通信大会上，高通推出了一款工具AI Hub，简化了开发人员如何将 AI 模型直接下载到测试设备上的过程。 新的高通 AI Hub 包含了一个库，其中包含超过75个生成式 AI 模型，开发人员可以轻松地...
-
【AIGC】Diffusers:扩散模型的开发手册说明1
主要组件 最先进的扩散管道 diffusion pipelines，只需几行代码即可进行推理。 可交替使用的各种噪声调度器 noise schedulers，用于平衡生成速度和质量。 预训练模型 models，可作为构建模块，并与调度程序结合使用，来...
-
【AI】Chinese-LLaMA-Alpaca-2 1.3B 7B 13B llama.cpp 量化方法选择及推理结果测试 x86_64 RTX 2060 6G 生成程序源码测试
1.3B Q4_0 (很快，没用 llm_load_print_meta: model type = ?B llm_load_print_meta: model ftype = Q4_0 llm_load_print_meta:...
-
首席分析师揭秘爆火Groq，每小时要烧168美元！10倍H100拥有成本，老黄笑而不语
最近爆火的AI初创公司Groq，推出了比目前常见GPU推理系统快4倍，成本低70%的大模型推理解决方案。 他们提供的运行Mistral Mixtral 8x7b的API演示，让大部分习惯了其他LLM「娓娓道来」的用户直呼，简直是魔法！ Groq在处理...
-
AI崛起加剧数据中心能源消耗，谷歌新技术或帮助减排
2月26日消息，科技巨头正竞相加紧努力拆除被称为“碳定时炸弹”的隐患，随着人工智能（AI）技术的兴起，它们在全球建立的数据中心的能源消耗也急剧上升，进而导致的碳排放问题日渐严重。 因此，谷歌引领的一项创新技术逐步受到重视：该技术通过软件在全球太阳能和风...
-
AIGC 实战：如何使用 Docker 在 Ollama 上离线运行大模型（LLM）
Ollama简介 Ollama 是一个开源平台，用于管理和运行各种大型语言模型 (LLM ，例如 Llama 2、Mistral 和 Tinyllama。它提供命令行界面 (CLI 用于安装、模型管理和交互。您可以使用 Ollama 根据您的需求下载...
-
20240202在WIN10下部署faster-whisper
20240202在WIN10下部署faster-whisper 2024/2/2 12:15 前提条件，可以通过技术手段上外网！^_ 首先你要有一张NVIDIA的显卡，比如我用的PDD拼多多的二手GTX1080显卡。【并且极其可能是矿卡！】800￥ 2...
-
Stable Diffusion——stable diffusion基础原理详解与安装秋叶整合包进行出图测试
前言 在2022年，人工智能创作内容（AIGC）成为了AI领域的热门话题之一。在ChatGPT问世之前，AI绘画以其独特的创意和便捷的创作工具迅速走红，引起了广泛关注。随着一系列以Stable Diffusion、Midjourney、NovelAI等...
-
AI语音识别模块--whisper模块
1.下载 ffmpeg，挑一个自己电脑系统的版本，下载，如我win64： 地址： Releases · BtbN/FFmpeg-Builds · GitHub 下载压缩包zip，到·本地 解压安装，其实无需安装，只需把对应的目录下的bin，...
-
Quantitative Analysis: PIM Chip Demands for LLAMA-7B inference
1 Architecture 如果将LLAMA-7B模型参数量化为4bit，则存储模型参数需要3.3GB。那么，至少PIM chip 的存储至少要4GB。 AiM单个bank为32MB，单个die 512MB，至少需要8个die的芯片。 8个die...
-
Stable Diffusion webui安装详细教程
上一篇文章介绍了sd主流的ui，相信大家已经有所了解，下面为大家介绍sd-webui的安装详细教程 文章目录 一、 安装包说明 二、对电脑的要求 三、安装文件介绍 四、安装步骤 五、电脑问题与云主机 六、界面简要说明及通用反向提示词...
-
CUDA驱动深度学习发展 - 技术全解与实战
全面介绍CUDA与pytorch cuda实战 关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目管理专业人士，上亿营收...
-
一夜暴涨2770亿，英伟达市值逼近2万亿，跻身全球第四！61岁黄仁勋身价近700亿美元
财报公布后，英伟达单日市值增加2770亿美元，创历史新高！ 而且，还创下了华尔街史上最大单日涨幅里程碑。 有网友表示，「英伟达一天的涨幅，就超过了所有中国AI创业公司的估值总和。。。」 要说原由，主要还是第四季度财报公布，英伟达用了3个「破记录」做了...
-
在Linux环境下如何使用虚拟化技术
虚拟化技术是一种将计算资源进行抽象和隔离，使得一个物理主机可以同时运行多个虚拟的计算环境的技术。通过虚拟化技术，可以将一台物理服务器划分为多个独立的虚拟机，每个虚拟机可以运行不同的操作系统和应用程序，从而实现资源的充分利用和灵活的管理。在Linux环境下...
-
保姆级amd显卡win11搭建stable diffusion教程，GPU运算，而不是CPU运算！！！
1.安装Git 2.安装python python版本一定要是3.10.6 如果是其他版本，请卸载后再重新安装此版本 3.git代理配置 此步骤主要是解决拉github源码慢的问题，如果有vpn客户端的同学，记得要单独再配置下git的代理配置...
-
LLaMA 2 和 QianWen-14B
阿里云通义千问14B模型开源！性能超越Llama2等同等尺寸模型 - 科技新闻 - EDA365电子论坛网 LLaMA 2 的硬件要求： LLaMA 2 系列模型有不同的参数量版本，如7B、13B和70B等。对于不同大小的模型，其硬件需求也有所不同。以...
-
Gemma.cpp官网体验入口 谷歌Gemma AI模型下载地址
Gemma.cpp是谷歌为Gemma模型开发的轻量级、独立的C++推理引擎。它专注于为Gemma 2B和7B模型提供简洁、直接的实现，旨在支持研究和实验用例，易于嵌入其他项目且具有高度的可修改性。gemma.cpp利用Google Highway库，优化了...
-
BentoML：如何使用 JuiceFS 加速大模型加载
BentoML 是一个开源的大语言模型（LLM） AI 应用的开发框架和部署工具，致力于为开发者提供最简单的构建大语言模型 AI 应用的能力，其开源产品已经支持全球数千家企业和组织的核心 AI 应用。 当 BentoML 在 Serverless 环...
-
中文语音识别转文字的王者,阿里达摩院FunAsr足可与Whisper相颉顽
君不言语音识别技术则已，言则必称Whisper，没错，OpenAi开源的Whisper确实是世界主流语音识别技术的魁首，但在中文领域，有一个足以和Whisper相颉顽的项目，那就是阿里达摩院自研的FunAsr。 FunAsr主要依托达摩院发布的Paraf...
-
DDC技术：AIGC网络的革命性解决方案
2023年，人工智能生成内容（AIGC）技术将蓬勃发展，其中ChatGPT作为一个典型案例，在文本生成、代码开发和诗歌创作等多个领域引起行业变革。DDC技术对改变网络格局具有创新和突破性意义，很大程度上提升了效率和连接性。本文将介绍这一AIGC网络的新一代...
-
AIGC专题：AIGC产业链近况更新
今天分享的是AIGC系列深度研究报告：《AIGC专题：AIGC产业链近况更新》。 （报告出品方：国联证券） 报告共计：19页 AIGC 正反馈持续加强 依托于强大的算力基础设施和海量的通用数据，经过训练和不断调优打造出了 AIGC 大模型，到中...
-
扩展说明: 指令微调 Llama 2
这篇博客是一篇来自 Meta AI，关于指令微调 Llama 2 的扩展说明。旨在聚焦构建指令数据集，有了它，我们则可以使用自己的指令来微调 Llama 2 基础模型。 目标是构建一个能够基于输入内容来生成指令的模型。这么做背后的逻辑是，模型如此...
-
Stable Diffusion原理详解（附代码实现）
一、前言 回顾AI绘画的历史，GAN（Generative Adversarial Nets）是比较出众的一个。GAN的出现让AI绘画成为可能，当时GAN给AI绘画提供了一种新的思路，现在回顾当时的绘画可以算是相当粗糙。 gan-results....
-
20240202在WIN10下使用fast whisper缺少cudnn_ops_infer64_8.dll
20240202在WIN10下使用fast whisper缺少cudnn_ops_infer64_8.dll 2024/2/2 10:48 https://blog.csdn.net/feinifi/article/details/132548556...