-
“AI 教父”杰弗里・辛顿：超越人类智慧的 AI 可用语言操纵我们
3 月 24 日消息，人工智能领域的开创者之一，被誉为“AI 教父”的杰弗里・辛顿（Geoffrey Hinton）近日接受日本经济新闻采访，讲述了 AI 与人类的未来。 IT之家注：去年 5 月，杰弗里・辛顿宣布离开他工作了十年的谷歌公司，原因是他对...
-
AI时代CPU不老！Intel五代至强五大革新：340亿参数小意思
AI漫长的历史中，ChatGPT绝对是浓墨重彩的一笔。正是它引爆了AI大模型概念，也让以往高高在上的AI飞入了寻常百姓家，开始融入每个人的日常工作、生活，AI PC、AI手机、AI边缘也都在大踏步前进，变革千行百业。 有调研数据显示，预计到2026年，AI...
-
英伟达AI Workbench正式发布，大幅度简化大模型开发流程
3月22日，英伟达在官网宣布，正式发布NVIDIA AI Workbench。 AI Workbench是一款面向AI大模型开发人员的工具包，可以帮助开发人员消除很多繁琐、复杂的部署、开发流程。 无论你的技术水平如何，开发人员都可以体验快速可靠的 GPU...
-
人工智能对数据中心电力和可持续性的双重影响
数据中心在管理电力和提高能源效率方面面临着不断升级的挑战。人工智能驱动的工作负载激增加剧了数据中心资源的压力，加剧了人们对能源消耗和环境可持续性的担忧。预计到2026年，全球数据中心的电力消耗可能会增加一倍以上。 人工智能将在数据中心中发挥的根本性转变怎...
-
解读AI通用计算芯片：GPU训练CPU推理，用最优的成本降低AI算力支出
当前，人工智能已经成为推动企业业务创新和可持续发展的核心引擎。我们知道，算力、算法和数据是人工智能的三大核心要素，缺一不可。今天，笔者就从通用计算芯片这个维度出发，跟大家详细聊聊关于算力的相关技术与市场竞争态势。 所谓AI计算芯片（也称逻辑芯片），就是指...
-
微软在AI领域是不是大而不倒？
在2023年11月OpenAI的剧变中，联合创始人兼CEO奥特曼被解雇并重新聘用，微软CEO纳德拉接受了采访，分享了他对这一事件的两点看法，以及人工智能如何在企业中渗透。 纳德拉在谈到微软在人工智能领域的存在时表示：“我们对自己的能力非常有信心，我们拥...
-
dskms采集插件的原理、应用与发展
在数字化时代，数据采集已经成为多个领域不可或缺的一环。从商业智能分析到网络安全监控，再到物联网设备的互联互通，高效、准确的数据采集是实现这些功能的基础。在众多数据采集工具中，“dskms采集插件”以其独特的设计理念和强大的功能，逐渐受到了业界的广泛关注。一...
-
人工智能在液体冷却系统主动维护中的作用
在不断发展的数据中心格局中，对高效冷却解决方案的需求至关重要。 浸入式冷却系统 液浸冷却系统已成为传统空气冷却方法的绝佳替代品，提供卓越的热管理和能源效率。 然而，为了确保数据冷却系统的最佳性能，需要复杂的监控和维护机制。这就是人工智能分析介入的地方，...
-
阿布扎比考虑投资OpenAI的芯片项目
阿布扎比的一家国家资助的投资公司正在考虑支持OpenAI的芯片项目。据《金融时报》报道，MGX与首席执行官Sam Altman进行了讨论，以帮助资助该项目，这被视为减少其对Nvidia GPU依赖的一种方式。据悉，OpenAI正在寻求资金支持其雄心勃勃的芯...
-
AI热潮助推股市，高盛称三大领域将迎来投资机遇
根据高盛的预测，人工智能（AI）热潮将进一步推动股市发展，并将涉及三个主要领域。 第一阶段已经过去，主要以Nvidia为代表的公司在AI领域取得了巨大成功。接下来，AI热潮将进入第二阶段，即AI基础设施阶段。这一阶段涵盖了半导体公司、云服务提供商、数据中心...
-
华为云张平安：矢志打造中国 AI 算力的沃土
今天，AI 重塑一切，“人工智能+”首次被写入政府报告，AI 产业机遇加速涌现，AI 创新大有可为。 “所有的行业必须拥抱 AI，我们必须要有澎湃的 AI 算力，华为云矢志要将技术扎到根，做 AI 算力的沃土，推动行业智能应用创新，携手伙伴构建核心技术...
-
Meta新增两大万卡集群，投入近50000块英伟达H100 GPU
Meta日前推出两个功能强大的GPU集群，用于支持下一代生成式AI模型的训练，包括即将推出的Llama 3。 据悉，这两个数据中心的GPU数量均高达24,576块，专为支持比之前发布的更大、更复杂的生成式AI模型而构建。 作为一种流行的开源算法模型，M...
-
AIPC的“名利场”，生产力革命还是市值猛药？
苹果这回终于不“挤牙膏”了，急不可耐地扎入了AIPC的“名利场”。 就在2月28日，苹果CEO库克还在股东大会上宣称:“目前市面上用于人工智能的电脑，没有比Mac更好的”。仅一周过去，苹果在没有预告的前提下，突然发布了新款Macbook Air，并大肆宣扬...
-
Meta两个豪华AI集群曝光：每个配备2.4万块英伟达H100，价值几十亿
3月13日消息，美国时间周二，Facebook母公司Meta公布了两个数据中心规模新集群的技术细节，它们各自拥有超过2.4万个GPU，并在硬件、网络、存储、设计、性能和软件等方面上，专为支持大型语言模型如Llama 3进行训练而深度优化。 这两个新集群基...
-
Llama-3背后基础训练设施全揭秘：两个24KGPU集群，共4.9万个H100
作者丨Kevin Lee、Adi Gangidi、Mathew Oldham 编译丨诺亚 出品 | 51CTO技术栈（微信号：blog51cto） 日前，Meta在官网公布了两个全新的24K H100 GPU集群（49,152个），并就新集群的技术细节...
-
专为训练Llama 3，Meta 4.9万张H100集群细节公布
生成式大模型给人工智能领域带来了重大变革，人们在看到实现通用人工智能（AGI）希望的同时，训练、部署大模型的算力需求也越来越高。 刚刚，Meta 宣布推出两个 24k GPU 集群（共 49152 个 H100），标志着 Meta 为人工智能的未来做出了...
-
黄仁勋直言AMD等友商免费都没人买！英伟达要靠AI狂赚3000亿美元 没对手
快科技3月12日消息，作为人工智能的最大受益者，英伟达已经开始赚取了大量的利润，不过这还远不够。 预计到2026年，NVIDIA将获得高达1300亿美元的收入，比23财年高出五倍（几乎比2021年增加了1000亿美元），因此英伟达有望在下一代人工智能计算市...
-
每年电费2亿？ChatGPT每天竟然要消耗1.7万个家庭的用电量
AI技术作为当今科技领域的热门话题之一，然而，最近有关ChatGPT每年耗费2亿电费、日耗电量相当于1.7万个家庭的报道引发了人们对AI技术电力消耗的关注。 一篇论文指出，AI数据中心的用电量在未来将会与小国相当，而谷歌等公司每天处理的搜索请求也会带来大量...
-
AI芯片创企Taalas获5000万美元融资 定制专用芯片助力AI模型
据外媒SiliconANGLE报道，由Tenstorrent创始人Ljubisa Bajic领导的AI芯片创企Taalas已成功完成两轮共计5000万美元的融资，旨在为特定AI模型打造定制化专用芯片。 图源备注：图片由AI生成，图片授权服务商Midjo...
-
ChatGPT每年电费2亿？！日耗电量≈1.7万个家庭，网友：挺值！
ChatGPT居然这么费电？ 最新的等式出现了： ChatGPT日耗电量≈1.7万家庭日耗电量。 什么概念？一年光电费就要花2亿！ 美国普通家庭平均单日用电29千瓦时，而ChatGPT的单日用电量超过了50万千瓦时。 （美国商业用电一度约为0.147美元...
-
Meta计划到2026年推出生成式AI模型，为Reels等提供支持
Meta公司正全力投入生成式AI技术，计划在2026年之前推出一个能够支持视频内容的全新AI模型。根据Facebook总裁汤姆·艾利森（Tom Alison）在旧金山摩根士丹利科技大会上的广泛讨论，该公司的技术路线图将专注于开发一个能够推动视频领域的AI模...
-
Meta打造巨型AI模型 为视频推荐引擎注入新活力
互联网巨头Meta正致力于开发一款超大规模的人工智能系统，旨在为其旗下的视频推荐引擎注入新的活力，从而提升用户体验。 Facebook的负责人汤姆·埃利森透露，这款巨型人工智能推荐模型是Meta到2026年技术路线图的关键组成部分。该模型不仅能为类似于Ti...
-
数据中心管理者如何为AI和ML的爆炸式增长做好准备？
生成式人工智能和机器学习 (ML 迅速进入公众意识，使人们对这些有前景的技术的功能产生了新的关注。 大语言模型开发的进步使人工智能技术通过 ChatGPT 等聊天机器人和 DALL-E 3 等图像生成器更容易为公众所接受。但消费者技术只是触及了人...
-
AI浪潮下美国科技巨头疯狂建设数据中心 资本支出远超四大石油巨头
富国投资（Wells Fargo Investment Institute）在报告中指出，2025年Alphabet、亚马逊、Meta、微软总的资本支出预计将达2000亿美元，大大超越几大石油巨头的资本支出。 2023年，BP、雪佛龙（Chevron）...
-
论坛安保三部曲：DISCUZ如何巧妙开启防采集功能
互联网的崛起不仅是时代的变革象征，也让资源共享变为常态化操作，方便多人也繁华多人，亦扫出了社会版本的职能之作-—众多数据中心与工作依赖并通过技术的支配出一份竭尽其妙来解决便宜运到符咒剪裁通过网络造就？——尴尬的简化舒洪流getNetwork Giantis...
-
AI正在以五种方式改变数据中心
Zeus Cloud的首席执行官Mark Grindey分享了数据中心可以利用AI领域的发展优势来优化效率、提高性能和简化运营的五种方式。 优化效率和性能 1.预测性维护：数据中心由许多相互连接的系统和设备组成，AI算法可以分析来自传感器和使用模式的实...
-
PPIO王闻宇：论GPU的过去、现在和未来｜AIGC基石思考之算力哲学
00 前言：算力与GPU 算力，即计算能力（Computing Power）。更具体来说，算力是通过对信息数据进行处理，实现目标结果输出的计算能力。 最早的算力引擎。是人类的大脑，后来演变成草绳、石头、算筹（一种用于计算的小棍子）、算盘。到...
-
单租户人工智能工厂会成为最新的数据中心趋势吗？
托管数据中心的标准结构是拥有数十个甚至数百个客户同时运行不同的应用。但英伟达提供了对一种新型数据中心的洞察，该数据中心运行的应用，而且只有一个客户在使用它。 “人工智能工厂”的出现 这是一种新型的数据中心，这种新型的数据中心与过去的数据中心不同，过去的...
-
老黄最新专访：芯片短缺难以结束，下个Transformer已经出现
英伟达的GPU正在吞噬这个世界。 科技公司对英伟达的超级计算GPU有着近乎无尽的需求。 不再是那个只为游戏显卡提供图形渲染服务的英伟达，现在的英伟达利用他的GPU开创了一个新时代： 人类能够与计算机对话，计算机能够回应人类。而最终，计算机甚至可能超越人类...
-
十年内出现AGI？下一代Gemini能感知环境？DeepMind CEO哈萨比斯畅谈AI
「如果我们在未来十年内拥有类似 AGI 的系统，我不会感到惊讶。」Google DeepMind 联合创始人和 CEO Demis Hassabis 近日在人工智能播客节目 Dwarkesh Podcast 上如是说。 在长达一个小时的节目中，Hassa...
-
弥合差距：为人工智能时代改造数据中心
每个现代数据中心，无论是超大规模的还是企业的数据中心，都必须重新设想电力管理和备份的方式，作为更广泛的创新战略的一部分。 人工智能时代即将重塑数据中心的格局。各种规模的企业都在寻找利用生成式人工智能的方法。这意味着他们需要更多的数据中心——性能更高、更...
-
2024年最具影响力的自动化技术
电气电子工程师学会（IEEE）近日发布了一份《2024年及以后的技术影响：IEEE全球研究》报告，指出了2024年哪些技术将产生重要的影响。 该报告是基于IEEE在 2023 年9月19-23日对美国、中国、英国、印度和巴西多个行业中员工人数超过100...
-
字节万卡集群技术细节公开：2天搞定GPT-3训练，算力利用率超英伟达Megatron-LM
随着对Sora技术分析的展开，AI基础设施的重要性愈发凸显。 来自字节和北大的一篇新论文在此时吸引关注： 文章披露，字节搭建起的万卡集群，能在1.75天内完成GPT-3规模模型（175B）的训练。 具体来说，字节提出了一个名为MegaScale的生产系...
-
生成式AI能拯救电信行业吗？
在日前正在举办的MWC 2024大会上，英伟达发布了一系列公告，其中包括与ARM、ServiceNow和软银的合作，成立AI-RAN联盟，以及与挪威电信达成一项重大协议，该协议将使挪威电信获得英伟达最新的硬件和企业AI软件，以支持其运营中采用的许多人工...
-
了解一下CPU 、TPU、GPU、DPU、QPU
随着AI的火爆，CPU 、TPU、GPU、DPU、QPU这些缩略词整天在各种媒体里面飞来飞去。本文主要解释这些处理器，以及他们的优缺点。 CPU（中央处理器） CPU就像计算机的“大脑”。它能够处理计算机工作的所有基本任务，例如：运行程序、管理文件和执行...
-
高通和英特尔希望将人工智能移出数据中心
迄今为止，大多数人工智能投资都集中在大型数据中心内运行该技术。英特尔和高通正在努力改变这一现状。 英特尔正在宣传其边缘平台运行人工智能技术的能力，而高通则表示其智能手机芯片可以为人工智能服务提供支持。两家公司都希望将人工智能光环扩展到数据中心之外。 两...
-
三星发布全新内存芯片HBM3E12H，AI性能再创新高
站长之家(ChinaZ.com 2月27日 消息:三星电子于周二宣布研发出一款全新高带宽内存芯片，被誉为行业内“容量最大”产品。这款名为HBM3E12H的芯片据称“性能和容量均提升超过50%”。 三星表示:“行业的AI服务提供商对更高容量的HBM需求日益...
-
人工智能如何将数据中心转变为可持续性的动力
数据中心历来是许多技术进步的支柱，现在面临的不仅仅是基础设施提供商的问题。人工智能的快速发展凸显了数据中心迫切需要更加敏捷、创新和协作，为这个新时代提供动力。 人工智能如何将数据中心转变为可持续性的动力 人工智能和机器学习的蓬勃发展，加上云和企业工作...
-
微软发布全新人工智能访问原则，公司迄今最大规模投资计划
IT之家 2 月 27 日消息，在 2024 年世界移动通信大会上，微软总裁布拉德・史密斯（Brad Smith）宣布了公司全新的人工智能访问原则 (AI Access Principles ，这一原则将指导微软未来拓展人工智能领域的业务发展。 史密斯...
-
大模型也有“漂移（Drift）”现象？应引起AI应用开发者警惕
熟悉数据中心机器学习项目开发的读者应该知道，数据漂移和概念漂移是导致机器学习模型效果衰退的一个常见原因。漂移产生的关键原因是因为模型会随着时间而衰退，因此为了对抗这样的问题就必须要定期优化训练方案及定期重训模型。 那么大模型会不会有“漂移”现象呢，答案是...
-
到2026年，人工智能和加密货币将使数据中心的能源消耗翻倍
根据国际能源署(IEA 最近的一份报告，到2026年，数据中心的能源使用量有可能翻倍。 IEC预测，到2026年，数据中心的总耗电量将达到1000太瓦时以上。 报告称：“这一需求大致相当于日本的用电量。”因此，更新的法规和技术改进，包括效率方面的改进，...
-
边缘人工智能：让智能更接近源头
随着人工智能的发展，不是把数据交给算法，而是算法去处理数据，从而实现一个全新的洞察力水平。 如今，人工智能 (AI 无处不在，使组织能够预测系统中断的可能性，推动自动驾驶汽车，并为聊天机器人或虚拟助手提供语言功能。 这些类型的人工智能用例主要依赖于...
-
机器学习如何改变数据中心管理
机器学习将显著改变数据中心经济，并为改善未来铺平道路。 随着机架开始装满ASICs、GPU、FPGAs和超级计算机，机器学习和人工智能已经进入数据中心，并正在改变超大规模服务器场的外观。 这些技术提高了训练机器学习系统的计算机能力，而这项任务以前需要大...
-
人工智能和数据中心：为什么人工智能如此需要资源
到2023年底，对生成式人工智能将需要多少能源的任何预测都是不准确的。例如，头条新闻倾向于猜测“人工智能需要5倍、10倍、30倍的电力”和“足够运行10万户家庭的电力”等。与此同时，数据中心新闻等专业出版物的报道称，每机架的功率密度将上升到50kW或1...
-
AI崛起加剧数据中心能源消耗，谷歌新技术或帮助减排
2月26日消息，科技巨头正竞相加紧努力拆除被称为“碳定时炸弹”的隐患，随着人工智能（AI）技术的兴起，它们在全球建立的数据中心的能源消耗也急剧上升，进而导致的碳排放问题日渐严重。 因此，谷歌引领的一项创新技术逐步受到重视：该技术通过软件在全球太阳能和风...
-
一夜涨出1个可口可乐，英伟达无愧为AI时代的领航者
地球上最重要的一支股票——英伟达。 想象一下，如果在十年之前，你手里有1000美元，你会选择投资什么呢? 老牌媒体CNBC给出了最新的回答，那就是去买英伟达股票。正如AJ Bell投资总监说的那样，「在十九世纪中期的淘金热中赚到最多钱的人是那些提供工具的人...
-
一夜暴涨2770亿，英伟达市值逼近2万亿，跻身全球第四！61岁黄仁勋身价近700亿美元
财报公布后，英伟达单日市值增加2770亿美元，创历史新高！ 而且，还创下了华尔街史上最大单日涨幅里程碑。 有网友表示，「英伟达一天的涨幅，就超过了所有中国AI创业公司的估值总和。。。」 要说原由，主要还是第四季度财报公布，英伟达用了3个「破记录」做了...
-
Sora送上“泼天富贵”，AI基础设施：这次轮到我了！
春节期间，OpenAI的最新技术成果——文生视频模型Sora惊艳登场，令海内外的AI从业者、投资人彻夜难眠。 Sora大模型可以让用户仅通过输入一个句子，就可以生成与好莱坞画面相媲美的视频，且长度最多可达1分钟，让人深感震撼。 对于这颗“深水炸弹”，众...
-
华尔街分析师表示，英伟达即将公布的财报将为 AI 投资热潮定下基调
2024年初，投资者围绕人工智能的货币化展开激烈讨论，类似1995年互联网兴起的科技变革即将发生，引发了科技格局的重大转变。分析师Daniel Ives指出，关注企业支出趋势对于验证高估值、为未来增长道路铺平具有关键作用。 在最近的微软、谷歌等科技巨头的...
-
人工智能驱动的效率：重新定义数据中心的能源使用
在当今的数字时代，数据中心是积极管理巨大信息流的动力，以保持我们互联世界的运行。数据中心格局反映了这场技术革命，其在过去三年中增长了惊人的48%。 然而，这种进步是有代价的，因为大型数据中心是贪婪的能源消耗者，每个数据中心都需要足够的电力来供电。人工智...