欢迎来到财经新闻网

英伟达官宣“地表最强AI芯片”H200,突破带宽瓶颈

编辑:佚名      来源:财经新闻网      存储   芯片   带宽   营收   封装

2023-11-16 14:01:40 

财经新闻网消息:8VZ财经新闻网

近日,英伟达正式发布了“地球上最强大的AI芯片”H200。 支撑这一头衔需要两项关键技术:台积电主导的CoWoS高端封装和磁头存储厂不断迭代的HBM(高带宽内存)。8VZ财经新闻网

表示,与上一代A100和H100相比,H200的主要变化是内存。 它成为第一个使用HBM3e(高带宽内存)的GPU。8VZ财经新闻网

业界普遍预计,AI芯片的演进有望带动存储需求,HBM将成为明年各大DRAM(动态随机存取存储器)厂商营收的主要贡献者。8VZ财经新闻网

这两天,A股存储概念股集体走势。 其中,代理销售HBM巨头SK海力士产品的香农新创15日涨幅一度超过18%。 近两个交易日,其股价涨幅高达18.69%。 此外,协创数据15日也收涨13.43%,万润科技也两个交易日涨幅超过10%。8VZ财经新闻网

万亿资金入市__万亿赛道哪些8VZ财经新闻网

万亿资金入市_万亿赛道哪些_8VZ财经新闻网

突破带宽瓶颈8VZ财经新闻网

_万亿资金入市_万亿赛道哪些8VZ财经新闻网

当地时间11月13日,英伟达宣布发布基于AI芯片H100的新一代H200芯片。 基于Meta大型Llama 2模型的测试表明,H200的输出速度大约是H100的两倍。 此外,H200的推理速度几乎是H100的两倍,带宽也提升了2.4倍。8VZ财经新闻网

万亿赛道哪些__万亿资金入市8VZ财经新闻网

与上一代A100和H100相比,H200主要变化在于内存。 成为首款采用HBM3e(高带宽显存)的GPU,将带宽从H100每秒3.35TB提升至4.8TB,提升1.4倍,总显存容量从H100每秒3.35TB提升至4.8倍结核病。 80GB提升至141GB,容量提升1.8倍,推理能耗大幅降低。8VZ财经新闻网

数据显示,HBM(高)是高带宽内存。 HBM 是一种图形 DDR 内存。 通过采用先进的封装方式,将多个DRAM垂直堆叠,并通过中间层与GPU互连封装,在较小的物理空间内实现高容量、高带宽、低延迟和低延迟。 功耗已成为数据中心新一代内存解决方案。8VZ财经新闻网

创始人黄仁勋曾表示,计算性能扩展的最大弱点是内存带宽。 以谷歌第一代TPU为例,它的理论算力值为,但实际值最差也只有1/9,即算力,因为它对应的内存带宽只有34GB/s。8VZ财经新闻网

另外,传统架构下,数据从内存传输到计算单元的功耗大约是计算本身能耗的200倍,而用于计算的能耗和时间却很低,数据在内存和处理器之间传输。 频繁的迁移带来了严重的功耗问题。8VZ财经新闻网

万亿赛道哪些__万亿资金入市8VZ财经新闻网

万亿赛道哪些_万亿资金入市_8VZ财经新闻网

据Trend Force 统计,目前HBM市场的主流是HBM2e,包括 A100/A800、AMD MI200,大部分云服务厂商自研的加速芯片都是以此规格设计。8VZ财经新闻网

作为AI芯片的追逐者,AMD对于HBM的运用也更加积极。 其最新的GPU配备了HBM3显存,容量高达192GB,是H100的2.4倍。 其内存带宽达到5.2TB/s,是H100的1.6倍。 。 HBM 正在成为 AI 加速器芯片军备竞赛的核心。8VZ财经新闻网

市场规模预计三年内增长2.5倍8VZ财经新闻网

方正证券的一份研究报告提到,2023年主流HBM将从HBM2e升级到HBM3甚至HBM3e。HBM3的比例预计约为39%,2024年将增加至60%。8VZ财经新闻网

根据最新预测,全球HBM总产量有望翻倍,成为2024年贡献主要DRAM厂商营收的“最大事件”。方正证券也提到,2022年全球HBM市场规模约为36.3亿美元,预计到2026年市场规模将达到127.4亿美元。8VZ财经新闻网

为了适应AI加速器芯片不断变化的需求,各家原厂计划在2024年推出新产品HBM3e,预计明年HBM3和HBM3e将成为市场主流。 据了解,目前HBM市场仍由三大厂商主导。 2022年全年,SK海力士将占50%,三星将占40%,美光将占10%。8VZ财经新闻网

近期,三星、美光等主要存储厂商纷纷加速扩产。8VZ财经新闻网

市场份额最大的SK海力​​士早在2021年10月就率先发布了HBM3,今年4月实现了全球首款12层硅通孔技术垂直堆叠芯片,容量为24GB、50GB比上一代 HBM3 高 %。 SK海力士计划2023年底前提供HBM3e样品,2024年量产,目标是2026年量产HBM4。8VZ财经新闻网

事实上,作为领导者,SK海力士用于AI服务器的DRAM销售额由于DDR5和HBM的强劲需求而呈现出显着的增长趋势。 该公司今年第三季度营收为6.08万亿韩元,环比增长34.3%,出货量环比增长20%。 要知道,总体来说,存储芯片还没有走出“寒冬”。8VZ财经新闻网

为响应HBM市场需求,三星电子已向三星显示器购买新厂房和设备,用于建设新的HBM封装线,总投资达700-1万亿韩元。 据悉,三星电子已经打破了SK海力士向独家供应HBM3的局面。 该公司计划从明年一月开始向提供HBM3。8VZ财经新闻网

美光在此前的财报电话会议中表示,将在 2024 年通过 HBM3e 迎头赶上。预计其 HBM3e 将在 2024 年第三或第四季度开始供应 的下一代 GPU。最初的产品设计是 24GB 8 -嗨堆栈。 带宽超过1.2TB/s,后续计划推出更大容量的版本。8VZ财经新闻网

存储概念股上涨8VZ财经新闻网

与HBM三大巨头相比,目前国内产业链整体地位相对边缘。 不过,二级市场上,相关概念股的股价仍在波动。8VZ财经新闻网

其中,代表HBM巨头SK海力士的香农新创15日涨幅一度超过18%。 近两个交易日,其股价涨幅高达18.69%。 据了解,该公司目前约95%的收入来自电子元件分销业务,分销的产品为服务器级别使用的存储芯片。8VZ财经新闻网

该公司近日在互动平台提到,目前主要代理产品为SK海力士的内存和MTK的联发科主控芯片。 前者与后者的比例大致为80%和20%。 内存中,DRAM约占70%,NAND和SSD业务约占30%。8VZ财经新闻网

不难看出,与SK海力士的合作引发了市场想象。 此外,亚创电子15日还透露,公司全资子公司WE主要代理海力士的存储器,上述产品将是未来布局的重点。8VZ财经新闻网

而对于国内存储厂商来说,由于存储行业的话语权仍以海外厂商为主,国内厂商大部分仍以中低端产品为主,但也在研发企业级存储产品,布局计算服务器市场。8VZ财经新闻网

百威存储近日在其互动平台上表示,该公司的企业级SSD和服务器内存模块可用于计算服务器。 目前,此类产品的出货量仅占公司总收入的一小部分。 据悉,该公司高端存储芯片包括面向智能手表、AR/VR等旗舰可穿戴产品的ePOP存储芯片,以及面向中高端手机的UFS3.1和uMCP存储芯片。8VZ财经新闻网

江波龙在机构调研中表示,在公司企业级存储产品组合中,eSSD产品和RDIMM产品主要应用于基于服务器的高端企业级应用场景。 据该公司介绍,其eSSD和RDIMM产品已通过联想、京东云等重要客户的认证,并已获得部分客户的正式订单,实现量产出货。8VZ财经新闻网

免责声明 ① 本网所刊登文章均来自网络转载;文章观点不代表本网立场,其真实性由作者或稿源方负责 ② 如果您对稿件和图片等有版权及其他争议,请及时与我们联系,我们将核实情况后进行相关删除 ③ 联系邮箱:215858170@qq.com8VZ财经新闻网

发表我的评论 共有条评论
    名字:
全部评论
'); })(); /* 360自动推送代码 */