-
国内外大模型汇总（包括科大星火、文心一言、通义千问、智普清言、华为大模型）
国内外大模型汇总 1. 科大讯飞星火认知大模型 主要特点： 多语言能力：以中文为核心，同时支持多语言处理，能够进行跨语种的语言理解和生成。 广泛的任务能力：具备内容生成、语言理解、知识问答、推理、数学计算、代码理解与生成等多种能力，能够处理复杂的自...
-
【附精彩文章合辑】跨界对话：黄仁勋与扎克伯格的“外套交换”与未来展望
跨界对话：黄仁勋与扎克伯格的“外套交换”与未来展望 在科技界的浩瀚星空中，两位璀璨的名字如同双子星般交相辉映——NVIDIA的创始人兼CEO黄仁勋（Jensen Huang）与Facebook（现更名为Meta）的掌舵人马克·扎克伯格（Mark Zuck...
-
LLama 3 跨各种 GPU 类型的基准测试
2024 年 4 月 18 日，AI 社区对 Llama 3 70B 的发布表示欢迎，这是一款最先进的大型语言模型 （LLM）。该型号是 Llama 系列的下一代产品，支持广泛的用例。该模型 istelf 在广泛的行业平台上表现良好，并提供了新功能，包括改...
-
甲骨文AI集群配备131072万块NVIDIA B200 GPU：恐怖算力24万亿亿次
快科技9月12日消息，甲骨文宣布推出多款GPU计算集群，可通过甲骨文云基础设施提供AI训练服务，其中最顶级的一款配备了超过10万块的NVIDIA Blackwell GPU。 它一共使用了多达131072万块B200 GPU加速卡，FP8浮点、INT8整数...
-
外滩大会显露AI产业实践六大趋势 下一代超级应用是智能体
9月5日，2024·Inclusion外滩大会在上海开幕。AI产业的发展是本届外滩大会与会专家和企业家热议的话题，无论是企业界的实践，还是专家学者的研究，各方都认为AI产业实践正呈现六大趋势，涵盖小模型、智能体、专业AI、具身智能等方面，指明了大模型产业落...
-
国内最大智算中心正式投用：每秒690亿亿次浮点运算 可训练万亿参数大模型
快科技8月31日消息，日前，由中国移动承建的国内运营商最大单集群智算中心在哈尔滨正式运营。 据悉，该智算中心具有单集群算力规模最大、国产化网络设备组网规模最大等特点。 单集群智算中心把所有AI加速卡打造成1个集群，用以支持千万亿级参数的大模型进行训练。 这...
-
LLaMA 3 背后的大规模 GPU 集群 RoCE 网络建设
模型越来越大，需要的 GPU 越来越多；与此同时 GPU 性能也在不断增强，配套的网络带宽也不断增加到 400G（Blackwell GPU 甚至需要到 800 Gbps）。Ranking 模型还在迁移到 GPU 的早期阶段，但使用 GPU 的规模也在不断...
-
Llama 3.1中文微调数据集已上线，超大模型一键部署
7 月的 AI 圈真是卷完小模型卷大模型，精彩不停！大多数同学都能体验 GPT-4o、Mistral-Nemo 这样的小模型，但 Llama-3.1-405B 和 Mistral-Large-2 这样的超大模型让很多小伙伴犯了难。 别担心！hyper.a...
-
【北京中移产业生态孵化中心】——创新梦想启航地，新兴产业加速器！
【科技创新，未来已来】 在这个飞速发展的时代，科技创新是推动社会进步的关键力量。北京昌平办公孵化器，作为新兴产业的摇篮中心，现已全面开放企业注册地址，诚邀怀揣梦想、手握创新项目的您加入！只要您有好项目，这里就是您实现梦想的起点，一切皆有可能！ 【5G引领...
-
超算互联网-Stable Diffusion 2.1文生图教程
一、名词简介 1. 超算互联网 超算互联网是一种基于云计算的高性能计算平台，用户可以通过互联网接入超级计算资源。它集成了大量的计算节点，提供强大的计算能力，适用于科学计算、深度学习、人工智能等领域。用户可以利用超算互联网平台运行复杂的模型和算法，显...
-
每日AIGC最新进展(51)：昆仑万维震撼发布16B DiT-MoE图像生成模型、东北大学提出使用去噪神经权重进行高效训练、美团提出视频扩散模型量化方法
Diffusion Models专栏文章汇总：入门与实战 Scaling Diffusion Transformers to 16 Billion Parameters 本文介绍了DiT-MoE，一种可扩展的稀疏变分Transformer模型，它在...
-
小文件写入性能 5 倍于 S3FS，JuiceFS 加速生信研究
在生物信息学研究领域，NextFlow 是一款主流数据分析工具，广泛应用于多种研究项目。MemVerge，内存融合基础架构厂商，其公有云计算平台产品 Memory Machine Cloud (MMCloud 无缝集成了 NextFlow，为生物信息学家...
-
AI日报：讯飞星火Lite API永久免费；李开复称大模型疯狂降价是双输；AI特效末日滤镜抖音爆火；AI音乐Suno 融资1.25亿美元
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、科大讯飞：讯飞星火Lite A...
-
均价300万美元？英伟达GH200超级芯片落地9个超算中心，每秒两百亿亿次flop
英伟达用Grace Hopper的实力证明，它可以成为AI超算的首选硬件，未来将不再局限于GPU。 5月12日，英伟达宣布，全球有9台新型超级计算机正在使用Nvidia Grace Hopper超级芯片来加速科学研究和发现，从而推动高性能计算（HPC）产...
-
智能云采集：探索无界内容的新时代
在数字化浪潮中，随着云计算技术的快速发展，智能云采集已经逐渐成为获取、处理和应用各类数据信息的关键手段。它不仅能高效地搜集网络上的各种内容，更能通过智能化技术对这些内容进行深度分析和应用，从而引领我们进入了一个全新的信息化时代。智能云采集技术的核心在于其强...
-
黄仁勋亲自给OpenAI送货，全球首台DGX H200开箱了
今天，黄仁勋又来送 AI 芯片了，还是超强悍的那种。 OpenAI 联合创始人、总裁 Greg Brockman 发推，晒出了自己、OpenAI CEO 奥特曼与英伟达创始人兼 CEO 黄仁勋的合照。 他表示，老黄亲自为 OpenAI 送来了全球第一台...
-
什么是高性能计算？
随着数据量呈指数级增长，计算需求也变得越来越复杂，一个经常被提及的术语是“高性能计算”或HPC。但它究竟意味着什么?数据中心运营商如何利用它来增强运营? 高性能计算使用超级计算机和计算机集群来解决高级计算问题。这些系统旨在提供比传统计算设置高得多的性能...
-
Nvidia CEO黄仁勋亲自向OpenAI交付第一台DGX H200
Nvidia CEO 黄仁勋亲自将首个 Nvidia DGX H200交付至旧金山的 OpenAI 办公室，这一举动彰显了人工智能行业两大巨头之间紧密的联系。OpenAI 总裁兼联合创始人 Greg Brockman 在推特上发布了一张照片，展示了这一事件...
-
量子计算可靠性提升800倍！微软开启2级弹性量子计算新时代
限制量子计算发展的关键问题，就快被解决了！ 对于整个量子生态系统来说，这是一个历史性的时刻。 ——近日，微软联合Quantinuum，向全世界展示了有史以来最可靠的逻辑量子比特。 论文地址：https://arxiv.org/pdf/2404.0228...
-
数据中心芯片市场将激增，到2032年将达到238亿美元
数据中心芯片市场预计将在未来十年经历大幅增长，从2022年到2032年的复合年增长率(CAGR 将超过8.1%，这个新兴市场的规模在2022年为111亿美元，预计到2032年将达到238亿美元。该行业负责数据处理和计算操作的核心，其发展受到数据生成的快...
-
立省千元！Google Colab上的Stable Diffusion安装教程
写在前面 如果你是一名艺术家或设计师，你可能已经知道了如何使用AI进行创作。不过，对于那些刚刚开始接触AI创作的人来说，可能会对所需要的高性能计算机和昂贵的GPU感到困惑。 使用stable diffusion进行AI绘画创作需要占用大量的内存和计算资...
-
AI明星创业公司买英伟达GPU ，几周估值翻倍，但花的钱比赚的多17倍
在AI行业，尤其是生成式AI领域，技术的快速发展和应用的广泛前景吸引了大量的投资和关注。然而，这一领域的高昂成本也引起了业界的广泛讨论。最近，《华尔街日报》的一篇报道指出，AI行业的公司在购买英伟达GPU上的投入是其收入的17倍，这一数字令人震惊，同时也引...
-
如何通过液浸冷却和AIML集成彻底改变边缘计算
在当今快速发展的技术环境中，人工智能(AI 和机器学习(ML 与边缘计算的融合正在重塑我们处理数据的方式。边缘计算涉及更靠近数据源的分散处理，从而实现实时分析和响应。然而，随着人工智能和机器学习应用的激增，对边缘处理能力的需求也随之增加，导致热量产生和...
-
人工智能正在推动数据中心走向边缘
数据中心已成为连接我们数字互联世界的基石。与此同时，人工智能(AI 和机器学习(ML 的快速增长和应用正在影响数据中心的设计和运营。 与人工智能相关的培训需求正在推动新的芯片和服务器技术以及对极端机架功率密度的需求。 在设计人工智能系统时，训练和推理之...
-
消息称高通、谷歌、英特尔等联合开发 AI 软件：让代码不挑硬件，打破英伟达统治格局
3 月 26 日消息，英伟达凭借 AI 芯片的领先，如今已成为行业巨无霸，包括微软等巨头也需要与其合作，全球超过 400 万开发者依靠英伟达的 CUDA 软件平台来构建 AI 和其他应用。 据路透社报道，为了打破这一局面，包括高通、谷歌和英特尔在内的科...
-
CUDA之通用矩阵乘法：从入门到熟练！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 通用矩阵乘法 (General Matrix Multiplication，GEMM 是各种模型和计算中的核心部分，同时也是评估计算硬件性能 (FLOPS 的标准技术。本文将通过对 GEMM 的实...
-
如何开展“人工智能+”行动？
日前，我国第十四届全国人民代表大会强调要开展“人工智能+”行动，打造具有国际竞争力的数字产业集群。那么，如何开展“人工智能+”行动呢？这是一个值得深入思考的问题。 今年全国人大强调要开展“人工智能+”行动，可被视为推动我国从“互联网时代”迭代升级为“人...
-
深入解析视频采集卡：技术、应用与未来发展
在当今高度信息化的社会，视频已经成为了信息传播的主流方式之一。从电视广播到网络直播，从安防监控到视频会议，视频的身影无处不在。而在这些应用场景中，视频采集卡发挥着不可或缺的作用。本文将详细解析视频采集卡的技术原理、应用场景以及未来发展趋势，带领读者深入了解...
-
数据中心管理者如何为AI和ML的爆炸式增长做好准备？
生成式人工智能和机器学习 (ML 迅速进入公众意识，使人们对这些有前景的技术的功能产生了新的关注。 大语言模型开发的进步使人工智能技术通过 ChatGPT 等聊天机器人和 DALL-E 3 等图像生成器更容易为公众所接受。但消费者技术只是触及了人...
-
从 HPC 到 AI：探索文件系统的发展及性能评估
随着 AI 技术的迅速发展，模型规模和复杂度以及待处理数据量都在急剧上升，这些趋势使得高性能计算（HPC）变得越来越必要。HPC 通过集成强大的计算资源，比如 GPU 和 CPU 集群，提供了处理和分析大规模数据所需的算力。 然而，这也带来了新的挑战，尤...
-
戴尔预测2025财年前景乐观，AI 服务器需求强劲
戴尔科技公司预测，由于人工智能服务器需求强劲，其2025财年的年度营收和利润将超过华尔街的预期。戴尔受益于其 AI 服务器的需求不断增长，这些服务器配备了芯片设计公司英伟达的图形处理单元，有助于满足高性能计算需求。 首席运营官 Jeff Clarke 在...
-
了解一下CPU 、TPU、GPU、DPU、QPU
随着AI的火爆，CPU 、TPU、GPU、DPU、QPU这些缩略词整天在各种媒体里面飞来飞去。本文主要解释这些处理器，以及他们的优缺点。 CPU（中央处理器） CPU就像计算机的“大脑”。它能够处理计算机工作的所有基本任务，例如：运行程序、管理文件和执行...
-
CUDA驱动深度学习发展 - 技术全解与实战
全面介绍CUDA与pytorch cuda实战 关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目管理专业人士，上亿营收...
-
10倍英伟达GPU：大模型专用芯片一夜成名，来自谷歌TPU创业团队
我们知道，大模型到 GPT-3.5 这种千亿体量以后，训练和推理的算力就不是普通创业公司所能承担的了，人们用起来速度也会很慢。 但自本周起，这种观念已成为历史。 有名为 Groq 的初创公司开发出一种机器学习处理器，据称在大语言模型任务上彻底击败了 GP...
-
CES 2024的亮点仅仅聚焦AI深度赋能和产业创新吗？｜ DALL-E 3、Stable Diffusion等20+ 图像生成模型综述
随着科技飞速发展，CES（国际消费电子展）已然成为全球科技产业的风向标，每年的CES大会都是业界瞩目的盛事。回顾2024年CES大会，不难发现其亮点纷呈，其中以人工智能的深度赋能为最引人注目之处。AI技术的深入应用成为CES大会上的一大亮点，各大厂商纷纷展...
-
打破MoE训练效率与性能瓶颈，华为盘古稀疏大模型全新架构LocMoE出炉
2023 年 12 月，首个开源 MoE 大模型 Mixtral 8×7B 发布，在多种基准测试中，其表现近乎超越了 GPT-3.5 和 LLaMA 2 70B，而推理开销仅相当于 12B 左右的稠密模型。为进一步提升模型性能，稠密 LLM 常由于其参数...
-
一个月30万片H100，英伟达欲找英特尔造芯？只因CoWos产能太低
台积电产能不够，逼得英伟达都去找英特尔造芯片了？ 台积电在2023年年中承认，其先进芯片封装技术CoWoS（Chip on Wafer on Substrate）的需求已经超出了他们的生产能力。 另一方面，被称为「人造黄金」的英伟达AI芯片在市场上供不应...
-
微软使用AI加HPC分析3200万种新材料
微软与太平洋西北国家实验室合作，利用AI与高性能计算（HPC）技术对3200种新型候选材料进行建模，希望加快高效可充电电池材料的发现速度。该项目还希望进一步支撑微软的发展目标，在未来25年内将绵延250年的人类化学研究史纳入数据模型。 Azure量子元...
-
哪些编程语言和领域最适合应用AIGC技术？
1. 引言 人工智能技术的发展已经深刻影响了各个行业，使得自动化和智能化成为了当今的一个热点。与此同时，应用在人工智能领域的算法和模型也变得越来越复杂。为了更好地应对这些挑战，越来越多的开发者开始关注应用于智能计算的编程语言和领域。本文将深入讨论哪些编...
-
2023 ACM Fellow颁给图灵三巨头！清华马维英、微软高剑峰、上交大陈海波等14位华人当选
2023 ACM Fellow揭榜了！ 刚刚，美国计算机协会（Association for Computing Machinery）正式宣布了，2023年当选ACM Fellow的68位成员。 值得一提的是，今年图灵奖三巨头、万维网之父纷纷入选。 新晋...
-
2024年人工智能领域十大预测
2023年人工智能领域如果只能筛选一个关键词的话，恐怕非“大模型”莫属。大模型的发展在过去一年中，让各行各业发生了天翻地覆的变化，有企业因大模型而新生，有企业因大模型而消亡。企业的变迁跟技术迭代息息相关，而大模型就是新一代人工智能技术下的产物，大模型已经...
-
即将到来的政府监管下的人工智能时代
斯蒂芬·霍金曾说过一句名言:“成功创造出有效的人工智能可能是我们文明史上最大的事件，但除非我们学会如何准备和避免潜在的风险，否则人工智能可能是我们文明史上最糟糕的事件。” 人工智能以LLM(大型语言模型 的形式出现爆炸式增长。基于与ChatGPT等工具...
-
GPT-5被5万张H100卡脖子！Altman急筹数十亿美元，欲取代英伟达建起AI芯片帝国
Sam Altman正在筹集数十亿美元，建立一个全球性的半导体晶圆厂网络！ 这一事件背后的原因很可能就是，OpenAI已经无「芯」训练「GPT-5」了。 此前，据英国《金融时报》报道，OpenAI 正在开发一种新的AI模型，该模型将是 GPT-4 的「重...
-
一文读懂Stable Diffusion教程，搭载高性能PC集群，实现生成式AI应用
图生图 | PC集群 | PC Farm | Stable 文生图 | 生成式AI | Stable Diffusion 在当今计算领域中，PC集群和Stable Diffusion技术的应用已经成为不可或缺的一部分。这些技术在深度学习、AI绘画、高性...
-
Dreambooth Stable Diffusion始化训练环境（AutoDL）
以AutoDL为例 以下代码源自：赛博华佗——秋叶： Akegarasu 环境选择 Miniconda: Miniconda是一个轻量级的Conda环境管理系统。它包含了conda、Python和一些常用...
-
ai绘画 ai模型对显卡的要求
AI是由很多层计算组成的，每一层计算都无差别地计算所有的节点，甚至是对所有的节点的排列组合。由于没有局部性，运行内存需要能够放得下一整个模型至少一层的运算量。如果运行内存不够大，就得把运算好的数据存储起来，放在外存，然后在外存读出没有运算的数据继续算，那这...
-
OM5光纤：赋能人工智能时代
在不断发展的技术领域，OM5 光纤电缆已成为一种改变游戏规则的解决方案。 凭借其卓越的性能，OM5 光纤正在给各个行业带来革命性的变化，特别是在人工智能 (AI 领域。 本文深入探讨了 OM5 光纤在这些领域的应用和优势，强调了其巨大的潜力和意义。...
-
实战AI大模型：AIGC及经典模型
今天，人工智能技术的快速发展和广泛应用已经引起了大众的关注和兴趣，它不仅成为技术发展的核心驱动力，更是推动着社会生活的全方位变革。特别是作为AI重要分支的深度学习，通过不断刷新的表现力已引领并定义了一场科技革命。大型深度学习模型（简称AI大模型）以其强大的...
-
研究称：英特尔Gaudi2技术在大语言模型推理方面媲美英伟达AI加速器
根据 Databricks 的最新研究，英特尔的 Gaudi2技术在大规模语言模型推理方面与业界领先的英伟达 AI 加速器相媲美。该研究发现，Gaudi2在解码方面的延迟与英伟达 H100系统相当，并且优于英伟达 A100。研究还发现，Gaudi2的推理性...
-
印度正测试通过 AI 改善天气预报精度，应对极端气候
12 月 24 日消息，据路透社当地时间周五报道，印度正在测试使用 AI 构建气候模型，从而改善天气预报精度。当地的一名高级气象官员表示，在印度这个幅员辽阔的国家，暴雨、洪水和干旱等极端气候出现频次越来越多，正不断蔓延。 据报道，印度气象局正使用超级计...