Blackwell

2024年3月18日英伟达发布的AI芯片

Blackwell

Blackwell是英伟达推出的新一代的AI芯片与超级计算平台,当地时间2024年3月18日,英伟达在加州圣何塞举行的GTC大会上展示了Blackwell新处理器。[0]Blackwell处理器由2080亿个晶体管构成,GB200超级芯片可以为大语言模型(LLM)推理负载提供30倍的性能提升,并将成本和能耗降低25倍。Blackwell实际上是两个芯片通过连接而结合在一起,以确保它们可以作为一个整体无缝运行。英伟达的制造合作伙伴台积电将使用其4NP工艺来生产该产品。[0]

Blackwell是英伟达推出的新一代的AI芯片与超级计算平台,当地时间2024年3月18日,英伟达在加州圣何塞举行的GTC大会上展示了Blackwell新处理器。[1]

Blackwell处理器由2080亿个晶体管构成,GB200超级芯片可以为大语言模型(LLM)推理负载提供30倍的性能提升,并将成本和能耗降低25倍。Blackwell实际上是两个芯片通过连接而结合在一起,以确保它们可以作为一个整体无缝运行。英伟达的制造合作伙伴台积电将使用其4NP工艺来生产该产品。[1]

2024年5月15日,谷歌CEO桑达尔·皮查伊宣布,将在2025年推出与英伟达合作的Blackwell芯片。[2]截至2024年第三季度,超万个Blackwell芯片已交付。[3]2025年1月6日[注1],英伟达CEO黄仁勋表示Blackwell已全面投入生产。[4][5]

开发背景

大模型参数量正在呈指数级增长,此前 OpenAI 最大的模型已经有 1.8T 参数,需要吞吐数十亿 token。即使是一块 PetaFLOP 级的 GPU,训练这样大的模型也需要1000年才能完成。某些大型人工智能公司为了降低规模和成本,开始自主研发芯片,这使得它们从英伟达的GPU芯片客户转变为竞争对手。这一趋势促使这些公司转型为平台提供商,类似于微软苹果的模式,允许其他公司在他们的平台上开发软件。[6]

历史沿革

2024年3月18日,英伟达在加州圣何塞举行的GTC大会上展示了Blackwell新处理器。[1]同年5月15日,谷歌CEO桑达尔·皮查伊宣布,将在2025年推出与英伟达合作的Blackwell芯片。[2]同年6月2日,英伟达CEO黄仁勋表示Blackwell芯片已开始投产。[7]2024年10月,英伟达将Blackwell Ultra产品更名为B300系列。[8]同年11月,Blackwell人工智能(AI)图形处理器被曝出面临延迟交付,配套服务器过热的问题。[9]2024年第三季度,包括微软、甲骨文和OpenAI在内的许多终端客户已经开始接收该公司的下一代人工智能芯片Blackwell。截至2024年第三季度,超万个Blackwell芯片已交付。[3]2025年1月6日[注1]黄仁勋在CES主题演讲上表示,Blackwell已全面投入生产,所有主要云服务提供商均已建立系统,提供约200种不同型号和配置,来自约15家硬件制造商。英伟达拥有NBLink 36x2和NBLink 72x1等多种(计算)系统,能够满足全球几乎所有数据中心的需求,目前[注2]在约45家工厂生产,Blackwell相比于前一代在性能上实现了四倍的提升。[4][5]

视频暂不可用
英伟达CEO黄仁勋表示Blackwell芯片已开始投产
英伟达创始人兼首席执行官黄仁勋展示了Blackwell新处理器
英伟达创始人兼首席执行官黄仁勋展示了Blackwell新处理器

核心技术

Blackwell处理器由2080亿个晶体管构成,GB200超级芯片可以为大语言模型(LLM)推理负载提供30倍的性能提升,并将成本和能耗降低25倍。这包括被称为训练阶段的技术开发过程和称为推理阶段的技术运行过程。Blackwell实际上是两个芯片通过连接而结合在一起,以确保它们可以作为一个整体无缝运行。英伟达的制造合作伙伴台积电将使用其4NP工艺来生产该产品。[10][1]英伟达在发布会上表示,相较于之前的H100 芯片,BlackwellGB200 超级芯片可以为大语言模型(LLM)推理负载提供 30 倍的性能提升,并将成本和能耗降低 25 倍。[6]

价值意义

Blackwell将帮助推动人工智能工作超越诸如识别语音或创建图像等相对简单的工作。[1]

英伟达被爆延迟出货,市场提出质疑

英伟达存在B100/B200 芯片和封装 (CoWoS-L) 级别中的一些挑战,以及板级设计和系统级别的问题,导致2024年下半年GB200产能提升放缓,市场对Blackwell供应链延迟提出质疑。[11]

芯片过热问题

2024年11月,Blackwell人工智能(AI)图形处理器被曝出面临延迟交付,配套服务器过热的问题,一些客户担心他们没有足够的时间让新的数据中心启动和运行。有知情人士称,其装入可容纳多达72颗芯片的服务器机架时会出现过热。英伟达员工、客户和供应商称,英伟达已要求供应商调整机架设计,以期解决这一问题;不过,尽管做了多次尝试,该问题依然存在。对此,英伟达回应称,工程迭代是正常的,也是预期中的情况。[9]

视频暂不可用
英伟达AI芯片被曝存在过热问题

黄仁勋回应关税问题

2024年,黄仁勋在财报电话会议上被问及特朗普政府可能加征的关税是否会影响英伟达,他回应称,无论新政府做出什么决定都会支持,其公司会完全遵守随之而来的任何法规。[3]

参考资料 11

  1. 英伟达推出有2080亿晶体管的新AI处理器,称运行速度可提高数倍 — 腾讯网
  2. 谷歌:将在2025年推出与英伟达合作芯片 — 新浪财经
  3. 超万个英伟达Blackwell芯片已交付,黄仁勋回应关税问题 — 第一财经-今日头条
  4. 请完成下方验证后继续操作 — 百家号
  5. 请完成下方验证后继续操作 — 百家号
  6. 数说|“AI军火商”英伟达是如何炼成的? — 澎湃新闻
  7. 英伟达Blackwell芯片已开始投产 — 百家号
  8. 机构:英伟达将Blackwell Ultra产品更名为B300系列 预计2025年将推动CoWoS-L增长 — 百家号
  9. 恐延迟交付 英伟达新型AI芯片被爆出现过热问题 — 今日头条
  10. 英伟达推出有2080亿晶体管的新AI处理器,称运行速度可提高数倍 — 今日头条
  11. 摩根大通详解“英伟达芯片问题”:问题在哪?延迟多久?对台积电影响多大? — 百家号

注释

  1. 美国当地时间
  2. 截至2025年1月7日
广告位:底部(ad-bottom)—— 请到中台「公共区块」编辑此内容