摘要:推理性能提升30倍!英伟达黄仁勋再次甩出“王炸”
刚刚!
人工智能芯片龙头英伟达又推出“AI王炸”。
黄仁勋揭晓了英伟达迄今最受瞩目的下一代芯片——Blackwell B200。
相较于之前的 H100 芯片,搭载了B200芯片的GB200 超级芯片系统可以为大语言模型(LLM)推理负载提供 30 倍的性能提升,并将成本和能耗降低 25 倍。
这一全新产品,无论是性能还是功耗较上一代都实现了全面超越,被外界称作“全球最强”的AI芯片!
自OpenAI的ChatGPT于2022年末掀起人工智能热潮以来,英伟达的股价上涨了五倍,总销售额增长了两倍多。
占据AI芯片市场七八成份额的龙头股英伟达,业已成为人工智能时代的决定性公司,2万亿美元市值的英伟达更是让大家看到了超越苹果市值的可能。
科技公司只有不断打破技术壁垒,才能建立深厚的护城河。
因为英伟达知道,只有牢牢掌握算力分配权,才能做人工智能领域当仁不让的“炸子鸡”!
01
“通用计算已经失去动力,现在我们需要更大的模型,我们需要更大的 GPU,更需要将 GPU 堆叠在一起”,黄仁勋在英伟达 GTC 大会上说道。
大模型参数量正在呈指数级增长,此前 OpenAI 最大的模型已经有 1.8T 参数,需要吞吐数十亿 token。即使是一块 PetaFLOP 级的 GPU,训练这样大的模型也需要 1000 年才能完成。
今早凌晨,黄仁勋宣布英伟达(NVIDIA)将推出用于万亿参数级生成式AI的NVIDIA Blackwell架构。搭载Blackwell技术,英伟达将推出B200和GB200系列芯片。
从外观来看,B200的体积明显大于H100,采用台积电的4纳米(4NP)工艺蚀刻而成,整合了两个独立制造的裸晶(Die),共有2080亿个晶体管,是上一代的两倍多。英伟达使用传输速度达到10 TB每秒的NVLink 5.0技术来连接每块裸晶。
相比之下,英伟达H100芯片所包含的晶体管数量为800亿个,提供4 petaflops的FP4八精度浮点运算能力。
与传统计算机相比,人工智能运算能耗高、能效低并因此受到诟病,而英伟达新一代芯片在能效上有所提高。
平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,与用于推理的相同数量的H100 Tensor Core图形处理单元(GPU)相比,全新GB200 NVL机架级系统具有36个Grace Blackwell超级芯片,性能提高了30倍,并将成本和能耗降低 25 倍。
这就意味着,以前训练一个拥有1.8万亿参数的模型需要8000个Hopper GPU 和15兆瓦的功耗。
而使用新一代芯片在同样时长内执行同样任务,仅需2000枚芯片,能耗则降低至4兆瓦。
同时,取决于各种Blackwell设备的内存容量和带宽配置,工作负载的实际性能可能会更高。
02
谈及AI算力,黄仁勋曾强调过,在未来的10年里,英伟达将会把深度学习的计算能力再提高100万倍,从而让AI计算机不断训练、推理、学习、应用,并持续改进,未来不断将超级AI转变为现实。
会上,黄仁勋也自豪地晒出了AI芯片技术的发展图,并表示:“在过去,计算能力平均每十年性能提升100倍。而在过去的八年中,我们已经将性能提升了1000倍,距离十年还有两年。”
可以想象,B200将成为科技巨头们追逐的“算力明星”——它不仅会成为新的AI算力底座,也将成为英伟达市值继续攀升的业绩底座。
黄仁勋认为,Blackwell将成为英伟达最成功的产品发布。
不过,今年晚些时候,英伟达才会给合作伙伴提供基于Blackwell的产品。
据了解,包括亚马逊、谷歌、Meta Platforms、微软、OpenAI和特斯拉在内的主要客户将选择使用新芯片。
毫不夸张地说,英伟达本次GTC大会可能决定美股科技股的未来命运。
英伟达股价在19日当天早盘一度上涨超过4%,随后回落,收于每股884.55美元,涨0.7%,总市值2.21万亿美元。
今年61岁的黄仁勋持有英伟达3.1%的股份,目前他的个人财富已经接近了700亿美元!
作为压轴,黄仁勋在最后宣布推出人形机器人领域的GR00T项目。这是一个用于人形机器人的通用基础模型,充当机器人的大脑,使它们能够学习解决各种任务的技能。
此外,英伟达CEO黄仁勋还宣布推出下一代人工智能超级计算机,英伟达还发布6G研究云平台,以便用AI技术推进无线通信。
03
生成式AI热潮下,虽然巨头纷纷入场AI芯片,但英伟达的优势依然无可撼动,股价水涨船高,成为了不折不扣的AI龙头股!
过去一年时间,OpenAI的估值从200亿美元急剧飙升到800亿美元,而英伟达股价同样暴涨了三倍,市值从几千亿美元飙升到两万多亿美元,成为全球市值第三大上市公司,仅次于微软和苹果。
几乎所有AI公司的数据中心背后,都离不开英伟达的GPU支持。华尔街更是盛赞黄仁勋比马斯克更具远见!
据行业分析公司Omedia的数据,英伟达目前占据了AI芯片市场超过七成的市场份额。去年,英伟达以80%的市场占有率几乎垄断了AI芯片市场。《华尔街日报》评价其为“几乎没有竞争对手”。
财报显示,2024财年英伟达总营收达609亿美元,同比增长126%,业绩暴涨大部分归功于数据中心部门;四季度营收同比猛增265%至221亿美元,单季度收入甚至高于2021年全年。
与人工智能相关的数据中心部门,四季度营收达到184亿美元,同比暴增409%。净利润122.85亿美元,同比增长769%!
不过,市场对于英伟达的前景并不是没有担忧。
虽然是AI芯片的领头羊,英伟达仍旧面临着日趋激烈的竞争,它的竞争对手们都渴望进来分一杯羹,而同时,客户们又急切希望能找到替代品。
黄仁勋本人一直秉持着居安思危的态度,英伟达早年也曾濒临破产,而近年来又因加密货币挖矿行业的兴盛和衰败而遭受重创。
04
“最强AI芯片”的发布,英伟达巩固了其在AI领域的主导地位,但是,像AMD、英特尔这样的竞争对手,以及一些初创公司,甚至是大型科技公司,都可能削弱英伟达的市场份额,特别是在那些注重成本的企业客户中的份额。
尽管英伟达取得了巨大的成功,但它的收入却高度依赖少数几家云计算巨头,包括亚马逊、微软、谷歌和Meta。
英伟达现在面临的挑战是,如何将其技术扩展到更多客户。
值得一提的是,谷歌、亚马逊和微软等正在竞相开发自己的生成式人工智能芯片,以此来减少对英伟达的依赖,并将客户更紧密地锁定在自己的硬件和软件系统中。
2023年的GTC,黄仁勋说出了那句“The iPhone moment of AI has started(AI的iPhone 时刻已经到来)”。
2024年的GTC,黄仁勋继续说出一系列让世界振聋发聩的句子,比如“The future is generative(未来是生成的)”。
如今,科技的高速发展,让越来越多的人相信,这个世界已经跨过了由AI定义的临界点(tipping point),未来究竟由谁来定义,我们只能边走边看!
参考资料:
《“AI军火商”英伟达是如何炼成的?》,对齐Lab
《推理性能提升30倍!英伟达发布最新一代AI芯片》,澎湃新闻
《谁来挑战英伟达?推出“全球最强”AI芯片,股价高开低走》,10%公司
由复旦大学中山医院,中国科学院葛均波院士团队,由孙爱军教授牵头,赵静静等开展的《步长脑心通胶囊经由抑...
投资家网(www.investorscn.com)是国内领先的资本与产业创新综合服务平台。为活跃于中国市场的VC/PE、上市公司、创业企业、地方政府等提供专业的第三方信息服务,包括行业媒体、智库服务、会议服务及生态服务。长按右侧二维码添加"投资哥"可与小编深入交流,并可加入微信群参与官方活动,赶快行动吧。
2016年注册于北京的中氢新能技术有限公司,下设位于大兴的装备制造公司、位于海淀区的技术研究院、材料...
一度无比高光的理想汽车,猝不及防遭遇重挫。
2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...
2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...
2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...