-
OpenAI创始大神手搓千行C代码训练GPT，附PyTorch迁移教程
大神卡帕西（Andrej Karpathy）刚“复工”，立马带来神作： 纯C语言训练GPT，1000行代码搞定！，不用现成的深度学习框架，纯手搓。 发布仅几个小时，已经揽星2.3k。 它可以立即编译和运行，和PyTorch完全兼容。 卡帕西使用的示例是...
-
1000行C语言搓出GPT-2！AI大神Karpathy新项目刚上线就狂揽2.5k星
【新智元导读】训大模型的方法可能要被革新了!AI大神Karpathy发布的新项目仅用1000行的C语言训完GPT-2，而不再依赖庞大的GPT-2库。他本人预告，即将上线新课。 断更近一个月，Karpathy终于上线了。 这次不是AI大课，而是带来一个新项目...
-
[NLP]使用Alpaca-Lora基于llama模型进行微调教程
Stanford Alpaca 是在 LLaMA 整个模型上微调，即对预训练模型中的所有参数都进行微调（full fine-tuning）。但该方法对于硬件成本要求仍然偏高且训练低效。 [NLP]理解大型语言模型高效微调(PEFT 因此， Alpac...
-
【热门话题】Stable Diffusion：本地部署教程
?个人主页: 鑫宝Code?热门专栏: 闲话杂谈｜ 炫酷HTML | JavaScript基础 ?个人格言: "如无必要，勿增实体" 文章目录 Stable Diffusion：本地部署教程 一、引言 二、环境准备 1...
-
AI大模型对神秘学易经有什么用？
Mistral Trismegistus-7B 是一款由AI驱动的神秘学专用模型，专为那些对神秘学、玄学和灵性感兴趣的人设计，可提供从古代智慧到现代塔罗牌占卜等各种神秘主题的见解。 Mistral Trismegistus-7B 名字来源于Hermes...
-
Llama提速500%！谷歌美女程序员手搓矩阵乘法内核
谷歌的美女程序员，将Llama的推理速度提高了500%！ 近日，天才程序员Justine Tunney发推表示自己更新了Llamafile的代码， 图片 她重写了84个新的矩阵乘法内核，使得Llamafile可以更快地读取提示和图像。 与llama.cp...
-
(含代码)利用NVIDIA Triton加速Stable Diffusion XL推理速度
在 NVIDIA AI 推理平台上使用 Stable Diffusion XL 生成令人惊叹的图像 扩散模型正在改变跨行业的创意工作流程。 这些模型通过去噪扩散技术迭代地将随机噪声塑造成人工智能生成的艺术，从而基于简单的文本或图像输入生成令人惊叹的...
-
微软投资1000亿美元推动生成式AI，这支股票有望大涨
据科技商业刊物 The Information 报道，微软（NASDAQ: MSFT）和 OpenAI 计划在一个名为 Stargate 的新超级计算机上投资1000亿至1150亿美元，加速生成人工智能(AI 应用的基础设施建设。尽管微软和 OpenAI...
-
AI语音识别神器Openai Whisper对中文的支持如何？
文章目录 前言 一、资料准备 二、Whisper环境搭建 第一步：安装whisper 第二步：安装ffmpeg 三、Whisper测试 总结 其他相关 前言 语音识别一直以来都是人工智能领域中一个不容忽视的技术，随着大模型时...
-
2024-03-21 AIGC-FastGPT-本地知识库问答系统
相关文档: 接入 ChatGLM2-6B | FastGPT (fastai.site 相关步骤: FastGPT配置文件及OneAPI程序：百度网盘 请输入提取码 提取码：wuhe 创建fastgpt目录：mkdir fastgpt...
-
无需AI PC也能跑AI应用？背后的原因你知道吗
最近关注PC市场的朋友想必会注意到，“AI PC”已经成为了诸多厂商最新的宣传口号。 在更进一步的产品介绍里，这些厂商往往会宣称他们的新品使用了全新内置NPU（神经网络单元）的处理器，因此它可以运行老旧设备所不能支持的各种AI应用，提供从语音助手到用户感知...
-
AIGC批量图生成的一些思考
从技术到先进生产力，从先进装备到作战能力，中间隔了一道GAP。现在AI技术进展很快，开源的模型大部分是单点或者一个模块单元的突破。如何把这些技术整装成作战单元，为业务带来实际的价值是我们必须要解决的一个问题。 消费侧技术点 中文clip： 这...
-
【Python实用API】语音转文本-whisper
Whisper安装及使用教程 0.Whisper介绍 1.Whisper安装 1.1 依赖库安装 1.2 Whisper安装 2.Whisper使用 2.1 Whisper基本使用（语音识别） 2.2 Whisper进阶使用 2.2.1...
-
whisper、whisper.cpp、faster-whisper的比较
让我们比较一下当前的whisper、whisper.cpp和faster-whisper。 OpenAI / Whisper 自发布以来，似乎在各个方面都发生了变化，例如在 2022 年 12 月增加了 large-v2 模型和各种版本升级。 whis...
-
开源大模型AI代理操作系统：像Windos一样，操控AI代理
本文经AIGC开放社区 授权转载，转载请联系出处。 想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 去年，AutoGPT的出现让我们见识到了AI代理强大的自动化能力，并开创了一个全新...
-
AI绘画：Stable Diffussion本地部署新手教程(免费分享安装包+教程)无需网络
Stable Diffusion，是一个功能强大的开源工具，可帮助实现图像的生成与编辑，并提供极高的可控性。 Stable Diffusion 是一种先进的人工智能技术，可以用于生成逼真的艺术作品和图像。它的开源部署使得使用这个工具变得非常方便，而且免费...
-
Stable Diffusion下载安装，保姆级教程指南！
一、了解Stable Diffusion 1、Stable Diffusion（简称SD）是一种图像生成模型，主要用于生成以文本生成图像，图片生成图片，图片修复等，由慕尼黑路德维希马克西米利安大学CompVis 小组和Runway的研究人员提出，由...
-
Meta LLaMA 2实操：从零到一搭建顶尖开源大语言模型【超详篇】
前言 本文章由 [jfj] 编写，所有内容均为原创。涉及的软件环境是在nvidia-docker环境进行的，如对docker未了解如何使用的，可以移步上一篇文章nvidia-docker安装详解。 在 nvidia-docker 容器中运行时，Dock...
-
英伟达开卷价格！最新Blackwell GPU架构/成本揭秘，彰显老黄的「仁慈」
老黄的新GPU又在深夜炸场，震撼了所有的观众。 除了硬件参数上的震撼之外，大家伙最想知道的还是新GPU的售价会不会同样震撼。 下面就让我们从规格参数、工艺节点、封装设计等方面来深入分析一下新一代Blackwell GPU的系统、定价、利润，以及Jense...
-
Android 手机部署whisper 模型
Whisper 是什么？ “Whisper” 是一个由OpenAI开发的开源深度学习模型，专门用于语音识别任务。这个模型能够将语音转换成文本，支持多种语言，并且在处理不同的口音、环境噪音以及跨语言的语音识别方面表现出色。Whisper模型的目标是提供一...
-
OpenAI和微软将投资1000亿美元建设全球最大的数据中心
ChatGPT 的背后开发者OpenAI ，计划与微软公司合作投资100亿美元建设全球最大数据中心。这个计划旨在开发人工通用智能（AGI）技术，并将配备一个超级计算机。 根据《The Information》的消息，两家公司的管理层正在进行一个名为 “St...
-
stable-diffusion.cpp 一个文件解决stable diffusion所有环境，不需要python，stable-diffusion.dll动态库C#调用Demo
stable-diffusion.cpp 一个文件解决stable-diffusion所有环境，不需要python，stable-diffusion.dll动态库C#调用Demo 目录 介绍 效果 Text To Image Image To...
-
我的领导马斯克：痛恨开会，不要非技术中层，推崇裁员
马斯克称得上是个“魔鬼老板”这事儿，已经出了名了。 现在，他的老部下卡帕西（Andrej Karpathy）又在最新访谈中“锤”了他一把（doge）： 我不得不恳求他允许我招人。 他（马斯克）总是默认要裁掉员工。 喜欢裁人之外，在这场红杉组织的AI A...
-
如何修改大模型的位置编码 --以LLama为例
最近在看RoPE相关内容，一些方法通过简单修改位置编码就可以无需训练支持更长的文本内容。由于一些模型，已经训练好了，但是怎么修改已经训练好的模型位置编码。查了以下相关代码，记录一下。原理这里就不细讲了，贴几个相关博客。十分钟读懂旋转编码（RoPE）Tran...
-
微软、OpenAI投资1000亿美元，打造“Stargate”超级计算机
3月30日，著名科技媒体the information独家消息，微软、OpenAI正在开发一个数据中心项目，包含一台名为“Stargate”超级计算机将配备数百万个AI专用芯片，主要为OpenAI的研发、产品提供服务。 据一位曾与OpenAI联合创始人兼首...
-
台积电董事长预测：未来15年每瓦GPU性能提升1000倍，GPU晶体管数破万亿！
GTC 2024大会上，老黄祭出世界最强GPU——Blackwell B200 ，整整封装了超2080亿个晶体管。 比起上一代H100（800亿），B200晶体管数是其2倍多，而且训AI性能直接飙升5倍，运行速度提升30倍。 若是，将千亿级别晶体管数扩...
-
超快的 AI 实时语音转文字，比 OpenAI 的 Whisper 快4倍 -- 开源项目 Faster Whisper
faster-whisper 这个项目是基于 OpenAI whisper 的模型，在上面的一个重写。 使用的是 CTranslate2 的这样的一个库，CTranslate2 是用于 Transformer 模型的一个快速推理引擎。 在相同精度的情况...
-
笔记本电脑上部署LLaMA-2中文模型
尝试在macbook上部署LLaMA-2的中文模型的详细过程。 （1）环境准备 MacBook Pro(M2 Max/32G ; VMware Fusion Player 版本 13.5.1 (23298085 ; Ubuntu 22.04.2 L...
-
2024全新英特尔商用客户端AIPC产品发布会——开启AIGC的新阶段
#酷睿Ultra #AIPC #英特尔 2024年3月26日，英特尔AI PC产品发布会在北京凤凰中心成功举办，很荣幸作为受邀博主参与此次发布会。总的来说，一波新的换机热潮要开始了。 也许大家曾将Stable Di...
-
最好用的AI绘画软件！comfyui一键启动整合包来了
「 无套路！文末提供下载方式 」 如今 AI 发展也越来越快了，涉及领域也越来越广了，去接触使用 AI 是非常有必要的了。 AI创意无限，零基础到AI大神！ 其中说到 AI 绘画，大家应该都不会陌生的了，之前也是给大家带来过强大的 AI 绘画平台...
-
20240202在Ubuntu20.04.6下使用whisper.cpp的显卡模式
20240202在Ubuntu20.04.6下使用whisper.cpp的显卡模式 2024/2/2 19:43 【结论：在Ubuntu20.04.6下，确认large模式识别7分钟中文视频，需要356447.78 ms，也就是356.5秒，需要大概5...
-
【wails】（8）：发现一个用golang重写llama.cpp的llama.go项目，经测试支持f32模型，半年未更新，找到llama.cpp对应的版本，可以转换f32模型
1，项目地址 https://github.com/gotzmann/llama.go 项目最后的发布时间是2023年4月28日 项目是把 llama.cpp 的项目重写使用 golang 重写了下。 https://www.bilibili.co...
-
苹果M4芯片有望明年一季度发布：主打AI 新MacBook Pro首发
快科技3月27日消息，据名记马克古尔曼最新曝料，苹果已经在着手开发搭载M4芯片的全新MacBook Pro。 根据Canalys机构曝光的路线图，M4系列芯片有望2025年第1季度上线，将主打AI功能。 目前苹果已经宣布，将于美国太平洋时间6月10日-6月...
-
TensorFlow深度学习框架模型推理Pipeline进行人像抠图推理
概述 为了使ModelScope的用户能够快速、方便的使用平台提供的各类模型，提供了一套功能完备的Python library，其中包含了ModelScope官方模型的实现，以及使用这些模型进行推理，finetune等任务所需的数据预处理，后处理，效果...
-
AI时代CPU不老！Intel五代至强五大革新：340亿参数小意思
AI漫长的历史中，ChatGPT绝对是浓墨重彩的一笔。正是它引爆了AI大模型概念，也让以往高高在上的AI飞入了寻常百姓家，开始融入每个人的日常工作、生活，AI PC、AI手机、AI边缘也都在大踏步前进，变革千行百业。 有调研数据显示，预计到2026年，AI...
-
CUDA之通用矩阵乘法：从入门到熟练！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 通用矩阵乘法 (General Matrix Multiplication，GEMM 是各种模型和计算中的核心部分，同时也是评估计算硬件性能 (FLOPS 的标准技术。本文将通过对 GEMM 的实...
-
nginx配置详解+nginx_lua模块的使用
nginx基本配置详解 目录 nginx基本配置详解 nginx_lua模块使用方式 openresty介绍与安装 lua基本语法使用 全局配置： user：指定Nginx主进程运行的用户。在下方示例中，Nginx将以root用户身份...
-
AIGC时代下阿里云视频云媒体内容生产技术实践
编者按 AIGC时代下，媒体内容生产领域随着AI的出现也涌现出更多的变化与挑战。面对AI的巨大冲击，如何优化或重构媒体内容生产技术架构？在多样的应用场景中媒体内容生产技术又有着怎样的实践效果？LiveVideoStackCon2023...
-
【体验有奖】用 AI 画春天，函数计算搭建 Stable Diffusion WebUI
人工智能生成内容 AIGC（Artificial Intelligence Generated Content）是当下备受关注的概念之一，是继 PGC 和 UGC 之后的新型生产方式。AIGC 技术的核心思想是利用人工智能算法生成具有一定创意和质量的内容。...
-
Fastwhisper + Pyannote 实现 ASR + 说话者识别
文章目录 前言 一、faster-whisper简单介绍 二、pyannote.audio介绍 三、faster-whisper + pyannote.audio 实现语者识别 四、多说几句 前言 最近在研究ASR相关的业务，也...
-
AMD芯片使用Stable-Diffusion
AMD芯片使用Stable-Diffusion 由于A卡的Stable Diffusion工具的逐步完善，之前只能使用CPU跑，现在已支持AMD显卡进行AI绘图。 下载 官网链接：https://github.com/AUTOMATIC11...
-
Stable diffusion,AI绘画入门，秋叶大佬整合包（附网盘链接）
第一篇：SD安装和显卡要求 最近一段时间，AI绘画很火热，是不是感到对AI绘画很好奇，那么接下来介绍一下如何安装部署。让读者也能快速上手。进入AI绘画的世界。 最简单最容易入手的便是直接使用秋叶大佬的整合包，链接如下： 我用夸克网盘分享了「sd-we...
-
人工智能AI绘画，Stable Diffusion升级版comfyui一键启动器来了
「 无套路！文末提供下载方式 」 如今 AI 发展也越来越快了，涉及领域也越来越广了，去接触使用 AI 是非常有必要的了。 AI创意无限，零基础到AI大神！ 其中说到 AI 绘画，大家应该都不会陌生的了，之前也是给大家带来过强大的 AI 绘画平台...
-
为什么说GPU再火，AI平台也少不了强力的CPU
AIGC的这把火，燃起来的可不只是百模大战的热度和雨后春笋般的各式AI应用。 更是由于算力与通信需求的爆发式增长，使得底层的专用加速芯片、以及配备这些芯片的AI加速服务器再次被拉到了大众的聚光灯下。 据统计，2023年全球范围内的AI服务器市场规模已经达到...
-
旗舰同款！小米Civi 4 Pro升级影像大脑3.0：搭载Xiaomi AISP
快科技3月21日消息，小米Civi 4 Pro今日正式发布，搭载原汁原味的徕卡专业三摄，配备光影猎人800定制专业传感器。 据介绍，小米Civi 4 Pro还继承了旗舰机型的实力，搭载Xiaomi AISP。 通过小米澎湃OS深入硬件层，重构技术管线，深入...
-
【本地化部署Stable Diffusion WebUI（MACOS安装）】
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、Stable Diffusion WebUI适配三类芯片 二、安装 1.安装git、conda等 2.选定目录及下载Github远程仓库文件 3....
-
C# RAM Stable Diffusion 提示词反推 Onnx Demo
目录 介绍 效果 模型信息 项目 代码 下载 C# RAM Stable Diffusion 提示词反推 Onnx Demo 介绍 github地址：GitHub - xinyu1205/recognize-anything: Open...
-
官宣｜Apache Flink 1.19 发布公告
Apache Flink PMC（项目管理委员）很高兴地宣布发布 Apache Flink 1.19.0。与往常一样，这是一个充实的版本，包含了广泛的改进和新功能。总共有 162 人为此版本做出了贡献，完成了 33 个 FLIPs、解决了 600 多个问题...
-
亚马逊云科技与英伟达扩展合作 加速超万亿参数级大模型训练
亚马逊云科技与英伟达扩展合作，加速生成式 AI 创新。双方将在亚马逊云科技上提供 NVIDIA Blackwell 架构 GPU，包括 GB200Grace Blackwell 超级芯片和 B100Tensor Core GPU，以帮助客户解锁新的生成式...
-
解读AI通用计算芯片：GPU训练CPU推理，用最优的成本降低AI算力支出
当前，人工智能已经成为推动企业业务创新和可持续发展的核心引擎。我们知道，算力、算法和数据是人工智能的三大核心要素，缺一不可。今天，笔者就从通用计算芯片这个维度出发，跟大家详细聊聊关于算力的相关技术与市场竞争态势。 所谓AI计算芯片（也称逻辑芯片），就是指...