https://kejiciwei.com/tags/ai%E8%8A%AF%E7%89%87/Recent content in AI芯片 on 科技刺猬Hugozh-CNWed, 20 Mar 2024 00:00:00 +0000https://kejiciwei.com/nvidia-blackwell-gtc2024/Wed, 20 Mar 2024 00:00:00 +0000https://kejiciwei.com/nvidia-blackwell-gtc2024/<p>当地时间 3 月 18 日，英伟达 GTC 2024 在美国圣何塞开幕。和往年不太一样的是，这场开发者大会今年直接办进了能装上万人的体育场，黄仁勋穿着他那件标志性的皮衣登场，全场欢呼——这场面更像明星演唱会，而不是一家芯片公司的技术发布会。而发布会的核心主角，是新一代 AI 计算平台 Blackwell。</p> <h2 id="blackwell-和-b200为万亿参数模型准备的">Blackwell 和 B200：为万亿参数模型准备的</h2> <p>Blackwell 是英伟达继 Hopper 之后的新一代 GPU 架构，以数学家 David Blackwell 命名。本场发布的 B200 是这一代的旗舰芯片，官方将它定位得很明确：就是为万亿参数级别的大语言模型训练和推理准备的。</p> <p>黄仁勋在台上反复强调一个说法：Blackwell 不是一颗芯片，而是一个平台。这个说法背后的意思是，英伟达卖的不再是单颗 GPU，而是整套组合——比如把两颗 B200 和一颗 Grace CPU 封装在一起的 GB200 超级芯片、把几十颗芯片连成一台&quot;巨型 GPU&quot;的机柜级方案 GB200 NVL72，以及配套的高速互联和整套软件栈。云服务商买回去，理想状态是插上电就能开始训模型。</p> <p>性能数字方面，官方口径是在大模型推理等场景中，相比上一代 Hopper 有数倍提升，能效改善更为明显，数据中心最关心的&quot;每瓦算力&quot;被反复提及。具体的对比口径各家媒体测算方式不同，这里不搬数字，但方向是清楚的：大模型越训越大，单颗芯片的算力和芯片之间的通信带宽，都得跟着翻倍往上走，Blackwell 主要就是在解这两道题。</p> <p>落地方面，亚马逊 AWS、谷歌云、微软 Azure、甲骨文等主流云厂商都已表态将引入 Blackwell 实例，国内厂商的大模型军备竞赛接下来用什么硬件，这场发布会基本给了答案。</p> <h2 id="不止芯片机器人和数字孪生也上了台">不止芯片：机器人和数字孪生也上了台</h2> <p>GTC 的后半程留给了两条支线。</p> <p>一条是机器人。英伟达发布了人形机器人基础模型项目 GR00T，思路和大语言模型一样：给机器人做一个可以跨本体学习的&quot;通用大脑&quot;，配套的 Jetson Thor 计算平台负责在机器人身上跑这些模型。台上还请出了一排来自不同厂商的人形机器人站台，画面颇有科幻片发布会的味道。年初我们在<a href="https://kejiciwei.com/ces-2024-preview/">CES 2024 的前瞻</a>里就说过，机器人会是今年 AI 落地的热门方向，英伟达显然想做这波浪潮里卖铲子的人。</p> <p>另一条是数字孪生。Omniverse 平台迎来一批更新，重点是把工厂、仓库的数字孪生和机器人仿真训练打通——先在虚拟世界里把机器人训好，再放到真实环境里，能省下大量试错成本。另外还有面向气候模拟的 Earth-2 等平台进展，属于英伟达&quot;加速计算无处不在&quot;叙事的一部分。</p> <h2 id="为什么所有人都在盯着这颗离你很远的芯片">为什么所有人都在盯着这颗&quot;离你很远&quot;的芯片</h2> <p>发布会后有个值得玩味的现象：社交媒体上讨论最热烈的，除了机器人，就是英伟达的股价和市值。这家公司过去一年多已经成了 AI 行情的风向标，GTC 更是被投资者当作&quot;AI 行业景气度发布会&quot;来看待。道理不复杂——全球主要科技公司今年在 AI 基础设施上的投入，最后有很大一部分要变成英伟达的订单，它的产能和路线图，直接决定了下游所有玩家的扩军速度。</p>