三星将首秀36GB HBM3E内存:NVIDIA H200单卡就有216GB
老翟笔记3月7日资讯,三星日前宣布了全球首款36GB超大容量的新一代高带宽内存HBM3E,而在3月19日凌晨开幕的NVIDIA GTC 2024技术大会上,三星将首次进行公开展示。
三星HBM3E采用了24Gb颗粒、12层堆叠(12H),从而将单颗容量做到史无前例的36GB,带宽也提升至1280GB/s,相比前代8H HBM3容量、带宽都提升了50%,垂直密度则增加了超过20%。
NVIDIA H200 AI加速卡将首发采用三星36GB HBM3E,只需要八颗,就能达成6144-bit的位宽、216GB的容量,从而超过192GB HBM3内存的AMD Instinct MI300X。
H200还支持四路、八路互连,因此单系统的HBM3E内存容量可以达到864GB、1728GB!
按照惯例,NVIDIA可能会出于良品率的考虑,屏蔽一小部分容量,但是单卡超过200GB、单系统超过1.6TB必然是很轻松的。
按照NVIDIA的说法,H200虽然还是Hopper架构,但相比H100再次飞跃,700亿参数Llama2、1750亿参数GTP-3模型的推理性能分别提升多达90%、60%,对比前代A100 HPC模拟性能直接翻番。
NVIDIA H200计划2024年第二季度出货,三星36GB HBM3E则会在第一季度投入量产,正好赶得上。
- 随机文章
- 热门文章
- 热评文章
- 淡斑祛斑祛痘印的方法,亲测有效!
- 失业保险金每月几号到账?
- SU7二季度交付!小米汽车争取全球上市:超30万你会买吗
- 全新Siri要来了!库克:苹果今年将在生成式人工智能领域开辟新天地
- 苹果板皇!iPad Pro 2024工业设计出炉
- 海关查获人体组织制品“玩具”:经鉴定,为人骨等人体组织成分制成
- 俄罗斯总统普京发表年度国情咨文
- 五角大楼回应“一美国军人自焚死亡”:是悲剧事件,美防长正关注
版权声明:本文由老翟首次发布于老翟笔记网,如需转载请保留原文出处!
原文链接:https://lzbj123.com/post/1196.html
本文关键词: