-
联发科天玑 9300+ 处理器发布 支持Llama27B端侧大模型运行
在今日上午的MediaTek天玑开发者大会MDDC2024上，备受瞩目的天玑9300++旗舰处理器终于揭开了神秘的面纱。这款处理器的CPU架构精心布局，融合了1个高达3.40GHz的Cortex-X4核心，3个2.85GHz的核心，以及4个2.00GHz的...
-
MLP一夜被干掉！MIT加州理工等革命性KAN破记录，发现数学定理碾压DeepMind
一夜之间，机器学习范式要变天了！ 当今，统治深度学习领域的基础架构便是，多层感知器（MLP）——将激活函数放置在神经元上。 那么，除此之外，我们是否还有新的路线可走？ 就在今天，来自MIT、加州理工、东北大学等机构的团队重磅发布了，全新的神经网络结构...
-
12年前上手深度学习，Karpathy掀起一波AlexNet时代回忆杀，LeCun、Goodfellow等都下场
没想到，自 2012 年 AlexNet 开启的深度学习革命已经过去了 12 年。 而如今，我们也进入了大模型的时代。 近日，知名 AI 研究科学家 Andrej Karpathy 的一条帖子，让参与这波深度学习变革的许多大佬们陷入了回忆杀。从图灵奖得主...
-
关于人工智能，专家不愿透露的秘密!
如今，人工智能(AI 已经成为我们生活中不可分割的一部分。专家们通常会指出人工智能的优势，但可能不会很快提到这项技术的问题。本文将深入挖掘人工智能专家不愿意透露的隐藏秘密。 1.人工智能并非万无一失 虽然人工智能系统可以使数字更精确的许多倍,但并非完美...
-
MindSpore强化学习：使用PPO配合环境HalfCheetah-v2进行训练
本文分享自华为云社区《MindSpore强化学习：使用PPO配合环境HalfCheetah-v2进行训练》，作者： irrational。 半猎豹（Half Cheetah）是一个基于MuJoCo的强化学习环境，由P. Wawrzyński在“A Cat...
-
大模型时代，九章云极DataCanvas点亮五座“灯塔”
“计算”是贯穿人类文明史的一大主题。 早在茹毛饮血的原始社会，先民们就开始结绳记事；进入20世纪，世界上首台数字式电子计算机ENIAC诞生，标志着人类算力正式跨越阈限；随后半导体技术出现，芯片成为了算力的主要载体；科技巨轮驶入21世纪，云计算的发展再度为...
-
为了应对AI热潮专家讨论了液体冷却策略
科学家预测，在未来几十年内全球温度可能会稳步上升，数据中心经理们不需要等那么久，一股热浪正因最新的GPU、CPU和AI应用而向他们袭来。 “AFCOM数据中心报告”的作者Bill Kleyman强调：“随着AI需求的增长，数据中心运营商必须调整其基础...
-
人工智能的十大局限性
在技术创新领域，人工智能(AI 是我们这个时代最具变革性和前景的发展之一。人工智能凭借其分析大量数据、从模式中学习并做出智能决策的能力，已经彻底改变了从医疗保健和金融到交通和娱乐等众多行业。然而，在取得显著进步的同时，人工智能也面临着阻碍其充分发挥潜力的...
-
一次性讲明白，如何搞定一个可以支持多芯混合训练的 AI 集群
由于外部环境的变化，适用于大模型训练任务的 GPU 整体规模无法继续增长。这些存量 GPU 组成的集群，仍然是当前加速大模型训练的主要 AI 算力来源。同时，各类国产 AI 芯片开始大规模投入实际生产任务。在未来一段时间内，数据中心的 AI 算力将保持多...
-
Docker三分钟搞定LLama3开源大模型本地部署
概述 LLaMA-3（Large Language Model Meta AI 3）是由Meta公司开发的大型开源生成式人工智能模型。它在模型结构上与前一代LLaMA-2相比没有大的变动。 LLaMA-3模型分为不同规模的版本，包括小型、中型和大型，以适...
-
老黄亲自上门送超算！OpenAI奥特曼签收后到斯坦福演讲GPT-5
皮衣老黄亲自上门送货！OpenAI收到世界上第一台DGX H200超算。 致推进人工智能、计算和人类发展。 图片 这下呼吁快发布GPT-5的声音更高了。 图片 在OpenAI负责模型微调的员工Steven Heidel开玩笑说：“老黄签过名上了Buff的...
-
点云处理绕不开的算法！如何高效搜索最近邻？开源工具库汇总
本文经自动驾驶之心公众号授权转载，转载请联系出处。 一 ANN benchmark 链接：https://github.com/erikbern/ann-benchmarks 在高维空间中快速搜索最近的邻居是一个越来越重要的问题，尽管显然需要这样来推动...
-
什么是高性能计算？
随着数据量呈指数级增长，计算需求也变得越来越复杂，一个经常被提及的术语是“高性能计算”或HPC。但它究竟意味着什么?数据中心运营商如何利用它来增强运营? 高性能计算使用超级计算机和计算机集群来解决高级计算问题。这些系统旨在提供比传统计算设置高得多的性能...
-
OpenAI陷巨大算力荒，国内大厂抢先破局！打破单芯片限制，算力效率提升33%
国内AI不行，是因为芯片不行？ 我们跟国外的差距，是因为和英伟达芯片的差距过大？ 最近，圈内有许多这样的论调。 其实深挖下去，就会发现事实完全不是这样。即使是英伟达最先进的芯片，依然无法满足当下人工智能在算力上的需求。 随着模型参数量和数据量的增加，智慧...
-
AI PC，是联想们的销量解药吗？
4月16日，AMD推出了适用于商用笔记本电脑和台式机的AI芯片;英特尔去年底就推出了Core Ultra芯片，今年还计划推出新一代英特尔酷睿Ultra客户端处理器家族，并预计年出货4000万台AI PC。 随着全球芯片制造商的AI技术越来越成熟，不断推出新...
-
五种搭建LLM服务的方法和代码示例
在不断发展的大型语言模型（LLMs）领域中，用于支持这些模型的工具和技术正以与模型本身一样快的速度进步。在这篇文章中，我们将总结5种搭建开源大语言模型服务的方法，每种都附带详细的操作步骤，以及各自的优缺点。 1、Anaconda + CPU 我们首先介...
-
英特尔构建全球最大的神经形态系统，以促进更可持续的AI
英特尔宣布，已经建造了世界上最大的神经形态系统，代号为Hala Point，这一大规模神经形态系统最初部署在桑迪亚国家实验室，采用英特尔的Loihi 2处理器，旨在支持未来以大脑启发的AI研究，并解决当前AI在效率和可持续性方面的挑战。Hala Po...
-
英特尔用 AI 简化酷睿 Ultra 处理器设计流程，将数周分析作业压缩至几分钟
4 月 17 日消息，英特尔在近日的一份博客中表示，其已将 AI 广泛用于包括酷睿 Ultra 处理器的热设计在内的工作中。 以酷睿 Ultra 处理器为代表的客户端产品在运行过程中严重依赖睿频功能。在睿频中处理器频率提升，同时产生更多的热量。 为了充...
-
人工智能如何给智能手机带来革命性的转变？
人工智能(AI 一直被认为是各领域的核心功能技术，智能手机是展现新一代可能性和能量的典型例子。人工智能不再仅仅是匹配人类界面水平的问题，而是让设备比以往任何时候都表现得更好的问题。本文将讨论智能手机的人工智能，以及它将如何给现代智能手机带来革命性的变化...
-
高通骁龙X系列AI PC处理器将于4月24日发布
在社交平台上，高通已经提前宣布了一个令人激动的消息——全新的高通骁龙X系列AI PC处理器将于4月24日正式亮相。此次发布会的焦点无疑是两款新的芯片:骁龙X Elite和骁龙X Plus。 骁龙X Elite作为这次发布会的重头戏，其技术实力不容小觑。它基...
-
量子人工智能：创新与协作的交响曲
在不断发展的人工智能领域，量子人工智能的到来是一个关键时刻，它提供了创新与协作的和谐融合。随着高质量的深度伪造挑战数字内容的真实性，量子人工智能成为一股变革力量，为各个领域带来无与伦比的机遇和挑战。 提升深度伪造检测能力：量子人工智能的卓越处理能力，有...
-
史上首次，AI超越人类奥赛金牌得主！吴方法加持，30题做出27道破纪录
首位超越国际奥林匹克竞赛金牌得主的AI，刚刚诞生了！ 印度理工学院海得拉巴分校、图宾根AI中心、剑桥大学的研究者发现—— 通过「吴方法」，可以让AI变成和人类数学奥赛银牌得主同样的水平，而「AI数学大师」AlphaGeometry，则直接超越了IMO金牌...
-
为什么要纯C语言手搓GPT-2，Karpathy回应网友质疑
几天前，前特斯拉 Autopilot 负责人、OpenAI 科学家 Andrej Karpathy 发布了一个仅用 1000 行代码即可在 CPU/fp32 上实现 GPT-2 训练的项目「llm.c」。 llm.c 旨在让大模型（LM）训练变得简单...
-
得物 AIGC 算法岗(日常实习生) 面经分享
节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 最大的感受就是，今年的算法面试...
-
谷歌向微软英特尔全面宣战：首款自研Arm CPU，最强大模型公测，AI视频对垒Sora
昨晚的Google Cloud Next2024大会上，谷歌接连放出一堆模型和产品王炸:Gemini1.5Pro公开可用、上线音频处理能力;代码模型CodeGemma上新，首款自研Arm处理器Axion正式向微软和亚马逊宣战……这次，谷歌要以量取胜。 昨天...
-
最简单的AI绘画软件，roop下载分享（可直播）
前段时间给大家介绍过“地表最强”的Rope 今天要说的Roop看起来和Rope师出同门，但两者之间并没有直接关系，生成的效果也各有千秋 在讲解前，先附上一张经过roop“调教”后的寡姐，啊，不是~ 你能看出哪张是原图吗（doge）？ roop有...
-
小米 14 / Pro 获得大师人像、AISP 功能更新推送
今日，小米14和小米14Pro手机迎来了重要的系统更新。此次更新的一大亮点在于，小米14Ultra的出色影像功能被下放至这两款手机上，为用户带来了更为卓越的拍照体验。 更新内容中，新增的大师人像功能备受瞩目，它提供了大师人像和徕卡人像两种画质风格，为用户的...
-
英伟达竞品来了，训练比H100快70%，英特尔发最新AI加速卡
英伟达的 AI 加速卡，现在有了旗鼓相当的对手。 今天凌晨，英特尔在 Vision 2024 大会上展示了 Gaudi 3，这是其子公司 Habana Labs 的最新一代高性能人工智能加速器。 Gaudi 3 将于 2024 年第三季度推出，英特尔现...
-
谷歌向微软英特尔全面宣战！首款自研Arm CPU，最强大模型公测，AI视频对垒Sora
昨天的谷歌Next大会可是太精彩了，谷歌一连放出不少炸弹。 - 升级「视频版」Imagen 2.0，下场AI视频模型大混战 - 发布时被Sora光环掩盖的Gemini 1.5 Pro，正式开放 - 首款Arm架构CPU发布，全面对垒微软/亚马逊/英伟达/...
-
AI绘图cuda与stable diffusion安装部署始末与避坑
stable diffusion的安装说起来很讽刺，最难的不是stable diffusion，而是下载安装cuda。下来我就来分享一下我的安装过程，失败了好几次，几近放弃。 一、安装cuda 我们都知道cuda是显卡CPU工作的驱动（或者安装官网的...
-
AMD发布第二代Versal自适应SoC：10倍标量性能、全程AI加速
快科技4月9日消息，AMD今天宣布，旗下的Versal自适应片上系统(SoC 产品升级全新第二代，包括面向AI驱动型嵌入式系统的AI Edge 2VE3000系列、面向经典嵌入式系统的Prime系列。 新一代产品很好地平衡了性能、功耗、面积，以及先进的功...
-
不牺牲算法，不挑剔芯片，这个来自中科院的团队正在加速国产AI芯片破局
在《沙丘》构建的未来世界里，「得香料者得天下」。但在生成式 AI 席卷的智能世界里，得 GPU 者得天下。 前段时间，外媒 The Information 曝出了一则重磅消息：微软和 OpenAI 正在规划一个雄心勃勃的数据中心项目 —— 建造一台名...
-
纯C语言手搓GPT-2，前OpenAI、特斯拉高管新项目火了
众所周知，大语言模型还在快速发展，应该有很多可以优化的地方。我用纯 C 语言来写，是不是能优化一大截？ 也许很多人开过这样的脑洞，现在有大佬实现了。 今天凌晨，前特斯拉 Autopilot 负责人、OpenAI 科学家 Andrej Karpathy...
-
Ascend C 自定义算子 Kernel Launch调用入门
本文分享自华为云社区《Ascend C 自定义算子 Kernel Launch调用入门》，作者： jackwangcumt。 1 Kernel Launch概述 根据官方说明文档的介绍，Ascend C对外开放核函数的基础调用（Kernel Lau...
-
RWKV 模型启动工具 RWKV Runner 进阶教程（下）
在 RWKV Runner 教程的上篇（新手教程），我们讲述了如何使用 RWKV Runner 本地部署并运行 RWKV 模型： RWKV模型启动工具RWKV Runner新手教程（上） 而在今天发布的教程下篇，我们将主要介绍 RWKV Runner...
-
OpenAI创始大神手搓千行C代码训练GPT，附PyTorch迁移教程
大神卡帕西（Andrej Karpathy）刚“复工”，立马带来神作： 纯C语言训练GPT，1000行代码搞定！，不用现成的深度学习框架，纯手搓。 发布仅几个小时，已经揽星2.3k。 它可以立即编译和运行，和PyTorch完全兼容。 卡帕西使用的示例是...
-
1000行C语言搓出GPT-2！AI大神Karpathy新项目刚上线就狂揽2.5k星
【新智元导读】训大模型的方法可能要被革新了!AI大神Karpathy发布的新项目仅用1000行的C语言训完GPT-2，而不再依赖庞大的GPT-2库。他本人预告，即将上线新课。 断更近一个月，Karpathy终于上线了。 这次不是AI大课，而是带来一个新项目...
-
[NLP]使用Alpaca-Lora基于llama模型进行微调教程
Stanford Alpaca 是在 LLaMA 整个模型上微调，即对预训练模型中的所有参数都进行微调（full fine-tuning）。但该方法对于硬件成本要求仍然偏高且训练低效。 [NLP]理解大型语言模型高效微调(PEFT 因此， Alpac...
-
【热门话题】Stable Diffusion：本地部署教程
🌈个人主页: 鑫宝Code🔥热门专栏: 闲话杂谈｜ 炫酷HTML | JavaScript基础 💫个人格言: "如无必要，勿增实体" 文章目录 Stable Diffusion：本地部署教程 一、引言 二、环境准备 1...
-
AI大模型对神秘学易经有什么用？
Mistral Trismegistus-7B 是一款由AI驱动的神秘学专用模型，专为那些对神秘学、玄学和灵性感兴趣的人设计，可提供从古代智慧到现代塔罗牌占卜等各种神秘主题的见解。 Mistral Trismegistus-7B 名字来源于Hermes...
-
Llama提速500%！谷歌美女程序员手搓矩阵乘法内核
谷歌的美女程序员，将Llama的推理速度提高了500%！ 近日，天才程序员Justine Tunney发推表示自己更新了Llamafile的代码， 图片 她重写了84个新的矩阵乘法内核，使得Llamafile可以更快地读取提示和图像。 与llama.cp...
-
(含代码)利用NVIDIA Triton加速Stable Diffusion XL推理速度
在 NVIDIA AI 推理平台上使用 Stable Diffusion XL 生成令人惊叹的图像 扩散模型正在改变跨行业的创意工作流程。 这些模型通过去噪扩散技术迭代地将随机噪声塑造成人工智能生成的艺术，从而基于简单的文本或图像输入生成令人惊叹的...
-
微软投资1000亿美元推动生成式AI，这支股票有望大涨
据科技商业刊物 The Information 报道，微软（NASDAQ: MSFT）和 OpenAI 计划在一个名为 Stargate 的新超级计算机上投资1000亿至1150亿美元，加速生成人工智能(AI 应用的基础设施建设。尽管微软和 OpenAI...
-
AI语音识别神器Openai Whisper对中文的支持如何？
文章目录 前言 一、资料准备 二、Whisper环境搭建 第一步：安装whisper 第二步：安装ffmpeg 三、Whisper测试 总结 其他相关 前言 语音识别一直以来都是人工智能领域中一个不容忽视的技术，随着大模型时...
-
2024-03-21 AIGC-FastGPT-本地知识库问答系统
相关文档: 接入 ChatGLM2-6B | FastGPT (fastai.site 相关步骤: FastGPT配置文件及OneAPI程序：百度网盘 请输入提取码 提取码：wuhe 创建fastgpt目录：mkdir fastgpt...
-
无需AI PC也能跑AI应用？背后的原因你知道吗
最近关注PC市场的朋友想必会注意到，“AI PC”已经成为了诸多厂商最新的宣传口号。 在更进一步的产品介绍里，这些厂商往往会宣称他们的新品使用了全新内置NPU（神经网络单元）的处理器，因此它可以运行老旧设备所不能支持的各种AI应用，提供从语音助手到用户感知...
-
AIGC批量图生成的一些思考
从技术到先进生产力，从先进装备到作战能力，中间隔了一道GAP。现在AI技术进展很快，开源的模型大部分是单点或者一个模块单元的突破。如何把这些技术整装成作战单元，为业务带来实际的价值是我们必须要解决的一个问题。 消费侧技术点 中文clip： 这...
-
【Python实用API】语音转文本-whisper
Whisper安装及使用教程 0.Whisper介绍 1.Whisper安装 1.1 依赖库安装 1.2 Whisper安装 2.Whisper使用 2.1 Whisper基本使用（语音识别） 2.2 Whisper进阶使用 2.2.1...
-
whisper、whisper.cpp、faster-whisper的比较
让我们比较一下当前的whisper、whisper.cpp和faster-whisper。 OpenAI / Whisper 自发布以来，似乎在各个方面都发生了变化，例如在 2022 年 12 月增加了 large-v2 模型和各种版本升级。 whis...
-
开源大模型AI代理操作系统：像Windos一样，操控AI代理
本文经AIGC开放社区 授权转载，转载请联系出处。 想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 去年，AutoGPT的出现让我们见识到了AI代理强大的自动化能力，并开创了一个全新...