传字节跳动联手台积电自研5nm的AI芯片，降低硬件成本减少依赖英伟达
2024-09-18 15:29
新偶律动
关注
因为英伟达太贵，字节跳动正自研两款AI芯片？
字节，想要跳出英伟达的手心？
9月16日消息，据媒体报道，有知情人士透露称，字节跳动正在自主研发两款AI芯片，旨在减少对昂贵的NVIDIA芯片的依赖，并提升其在市场的竞争力。
而有关两款AI芯片的制造方面，字节跳动计划与台积电合作，预计在2026年前实现这两款自研芯片的量产。
这两款芯片分别针对模型训练和推理设计，其中一款用于加速构建人工智能模型所需的大量数据计算，即训练芯片。另一款则用于加速基于模型的预测和决策过程，即推理芯片，字节跳动已向台积电预定了数十万颗芯片，预计通过采购自研芯片，可节省数十亿美元的成本。
而对于字节跳动来说，降低芯片成本是一个迫切的需求。
去年，字节跳动发布了其首款AI聊天机器人“豆包”，该机器人能够生成文本和图像的生成式AI内容。今年，字节跳动宣布了一系列低成本的大语言模型，其中一些模型生成一个Token（即模型生成的一个词或词的一部分）的成本比OpenAI的类似产品低99%。
不过，虽然模型生成成本降低，但硬件的成本仍然居高不下。据报道，今年字节下了超过20万颗Nvidia H20芯片的订单，H20是Nvidia为中国市场制造的最先进芯片，在美国出口规则下允许销售，该订单价值超过20亿美元。
而现在，字节跳动打算向台积电订购数十万颗其自研的训练和推理芯片。据《The Information》估计，这些内部设计的芯片成本将比购买Nvidia芯片少数十亿美元。
不过，据知情人士透露，这些芯片仍处于设计阶段，字节跳动的计划可能会发生变化。
原文标题 : 传字节跳动联手台积电自研5nm的AI芯片，降低硬件成本减少依赖英伟达
分享
声明：
本文由入驻维科号的作者撰写，观点仅代表作者本人，不代表OFweek立场。如有侵权或其他问题，请联系举报。
图片新闻
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论