快科技7月30日消息,苹果公司在其技术论文中透露,其人工智能系统Apple Intelligence所依赖的模型并非基于NVIDIA芯片,而是在谷歌设计的云端芯片上进行预训练的。
NVIDIA的GPU一直以高价位和高需求著称,是许多大型科技公司AI训练的首选。
然而,苹果选择了谷歌的张量处理单元(TPU),这可能预示着大型科技公司在AI基础设施上的多样化选择。
苹果在其论文中详细介绍了使用TPU v4和TPU v5p芯片进行模型预训练的过程。
据悉,苹果的设备端AI模型是在2048个TPU v5p芯片上训练的,而服务器端模型则使用了8192个TPU v4芯片。
尽管苹果初期使用了谷歌的硬件,但它已经部署基于自研Apple Silicon芯片的硬件来处理Apple Intelligence的查询,并启动了Project ACDC”项目,以优化数据中心内的AI应用。
此外,苹果还计划在未来两年内投入超过50亿美元用于AI服务器的升级,并购买数万台AI服务器,同时收购了专注于压缩AI查询数据的公司,以加速其在AI领域的竞争力。
总结
### 文章总结苹果公司在最新的技术论文中透露,其人工智能系统Apple Intelligence的模型训练不再完全依赖高价的NVIDIA芯片,而是选择在谷歌设计的云端芯片上进行预训练。具体而言,苹果使用了谷歌的张量处理单元(TPU v4和TPU v5p)来完成这一任务,其中设备端模型基于2048个TPU v5p芯片训练,而服务器端模型则利用了8192个TPU v4芯片。
这一决策表明,苹果公司在AI基础设施的选择上更加多样化,不再局限于传统市场上的热门选项。同时,苹果也强调了其在自研芯片领域的进展,指出Apple Intelligence的查询处理已经部署了基于自研Apple Silicon芯片的硬件,并启动了名为Project ACDC的项目,旨在优化数据中心内的AI应用。
为了进一步加强在AI领域的竞争力,苹果计划在未来两年投入超过50亿美元用于AI服务器的升级,并计划购买数万台AI服务器。此外,苹果公司还收购了一家专注于压缩AI查询数据的公司,以加速其在该领域的技术进步和运算效率。这些举措共同展示了苹果在人工智能领域的雄心壮志和持续投资。