不是NVIDIA！苹果官宣AI模型训练用的谷歌芯片
发布时间：
2024-07-30 15:16
来源：
7月30日消息，苹果公司在其技术论文中透露，其人工智能系统Apple Intelligence所依赖的模型并非基于NVIDIA芯片，而是在谷歌设计的云端芯片上进行预训练的。
NVIDIA的GPU一直以高价位和高需求著称，是许多大型科技公司AI训练的首选。
然而，苹果选择了谷歌的张量处理单元(TPU)，这可能预示着大型科技公司在AI基础设施上的多样化选择。
苹果在其论文中详细介绍了使用TPU v4和TPU v5p芯片进行模型预训练的过程。
据悉，苹果的设备端AI模型是在2048个TPU v5p芯片上训练的，而服务器端模型则使用了8192个TPU v4芯片。
尽管苹果初期使用了谷歌的硬件，但它已经部署基于自研Apple Silicon芯片的硬件来处理Apple Intelligence的查询，并启动了“Project ACDC”项目，以优化数据中心内的AI应用。
此外，苹果还计划在未来两年内投入超过50亿美元用于AI服务器的升级，并购买数万台AI服务器，同时收购了专注于压缩AI查询数据的公司，以加速其在AI领域的竞争力。
其他内容
2024-07-30
官方公众号