当前位置:AIGC资讯 > AIGC > 正文

华为昇腾Ascend系列 之 01 什么是昇腾芯片?AIGC浪潮已至,进一步推动对芯片和算力的需求,主流 GPGPU/ASIC 产品性能对比(Ascend 910、Ascend 910B)

什么是昇腾Ascend 910、Ascend 910B

昇腾 310 和 910 处理器为华为AI 算力领域核心产品,910 单卡 Int8 算力大致可达 0.6 P,最大功耗为 300W,已可对标国际主流 GPU。且昇腾计算产业在硬件方面坚持“硬件开放”策略,通过自有硬件和合作硬件相结合的方式,可为客户提供多样化的算力选择。

为什么需要昇腾芯片

AIGC浪潮已至,进一步推动对芯片和算力的需求。当下,由于互联网公司、云计算提供商和企业客户都迫切希望将生成式AI应用到自身业务中,算力供应短缺的问题已经成为行业的普遍热点。

GPT3.5 对应数千张 H100,多模态需求再提升数倍至十倍。

GPT3.5 同级别模型约需要数千张 H100 进行训练。针对他们与 GPT3.5 相当的大语言模型,其使用了大约 3500 张 H100 进行训练。同时,对于初创公司而言,其需要数千张 H100 对大语言模型进行训练,需要几十张或者小几百张 H100 做微调。考虑 H100 价格约为 3-4 万美元/张,对用算力投入约为近亿美元。H100 价格约合人民币 24 万元,对应 3-4 万美元/张。投入在 3500 张级别,对应总投入或约为近亿美元。

GPT4 或对应数万张 A100,GPT5 或对应数万张 H100。

GPT4有可能是在 10000-25000 张 A100 上训练的。而对于 GPT5,其可能需要 25000-50000张 H100 进行训练。相比 GPT3.5 约数千张 H100 的需求量,GPT4、GPT5 等相对成熟的多模态模型算力需求提升约数倍至十倍级

总结

**文章总结:昇腾Ascend 910系列与AI算力需求的新时代**
华为AI算力领域的核心产品——昇腾Ascend 310和Ascend 910,特别是Ascend 910,以其单卡高达0.6P的Int8算力及最大300W功耗,已具备与国际主流GPU竞争的实力。华为通过“硬件开放”策略,既利用自有硬件也合作兼容其他硬件,为客户提供丰富的算力选择。
随着AIGC(AI生成内容)浪潮的兴起,各行业对芯片和算力的需求激增。互联网企业、云计算服务提供商及企业客户纷纷寻求将生成式AI应用于其业务中,导致算力供应紧张成为行业焦点。尤其是大型语言模型的训练,如GPT3.5,已需数千张高端GPU(如NVIDIA的H100),而更先进的模型如GPT4和GPT5则可能需求数万张,计算成本迅速攀升至数亿美元级别,对初创企业及一般企业构成巨大压力。
在此背景下,昇腾Ascend系列芯片凭借强劲的性能和多元化的算力解决方案,成为缓解算力短缺问题、推动AIGC应用落地的重要力量。

更新时间 2024-08-23