您的当前位置:首页 > 知识 > Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100 加速现在它终于发布了 正文
时间:2024-11-22 08:51:31 来源:网络整理 编辑:知识
早在4月份,Intel就宣布了新一代AI加速器Gaudi 3,现在它终于发布了,详细的规格参数也已出炉,竞争对手直指NVIDIA H100 GPU加速器,当然后者的Blackwell系列也要上量了。G
早在4月份,布G比两倍于Intel就宣布了新一代AI加速器Gaudi 3,加速现在它终于发布了,功耗详细的布G比两倍于规格参数也已出炉,竞争对手直指NVIDIA H100 GPU加速器,加速当然后者的功耗Blackwell系列也要上量了。
Gaudi 3的加速规格提升幅度堪称跨越式的,制造工艺从台积电7nm来到台积电5nm,功耗MME(矩阵乘法引擎)从2个增加到8个,布G比两倍于虽然每个MME内部的加速TPC(张量处理核心)从12个减少到8个,但是功耗总数从24个大幅增加到了64个,另外媒体解码器差从8个增至14个。布G比两倍于
内置SRAM缓存容量翻番至96MB,加速带宽翻倍至12.8TB/s。功耗
核心性能方面,MME BF16/FP8都是1835 TFlops(每秒1.835千万亿次),矢量BF16则是28.8 TFlops(每秒28.8万亿次),分别提升了3.2倍、1.1倍、1.6倍。
HBM2E高带宽内存容量从96GB增加到128GB(八颗),带宽也顺应增加来到惊人的3.7TB/s。
24个200Gb RDMA网络接口,双向网络互连带宽1.2TB/s,主机接口峰值双向带宽128GB/s,系统总线升级为PCIe 5.0 x16。
按照官方说法,Gaudi 3对比NVIDIA H100,LLM大模型推理性能领先50%、训练时间快40%,性价比则是对手的2倍。
开发方面,无缝兼容PyTorch框架、Hugging Face Transformer和扩散模型。
Gaudi 3加速器提供三种部署形态,一是OAM 2.0标准夹层卡,被动散热峰值功耗900W,液冷散热峰值功耗1200W,支持48个112Gb PAM4SerDes网络链接。
二是HLB-325通用基板,支持八颗Gaudi 3,具体功耗未披露。
三是HL-338扩展卡,PCIe 5.0 x16接口,被动散热峰值功耗600W,还可以四卡互连。
Intel此前已宣布,IBM将会在其云服务中部署Gaudi 3加速器。
另有消息称,Gaudi 3加速器也有中国特供版,其中OAM模组、PCIe模组的峰值功耗都限制至450W,算力自然也会大打折扣,但暂无更进一步说法。
耐克因業績不佳換帥 內行人執掌帥印能否挽救頹勢?2024-11-22 08:14
「拜特對決」首辯在即 這些看點有意思2024-11-22 08:14
外媒:俄羅斯稱一夜間摧毀30架烏克蘭無人機2024-11-22 08:08
新任中國駐加拿大大使王鏑向加總督遞交國書2024-11-22 07:52
本輪巴以衝突已致加沙地帶41495人死亡2024-11-22 07:49
荷蘭首相呂特被任命為北約秘書長2024-11-22 07:06
韓國今年高溫相關病患激增 逾半數為熱衰竭患者2024-11-22 06:40
歐盟《數字市場法》打響第一槍 指控蘋果違規2024-11-22 06:32
中央廣電總台台長慎海雄會見法國駐華大使2024-11-22 06:31
美一法院判處海地黑幫前頭目35年監禁2024-11-22 06:08
部分特勤局員工玩忽職守 特朗普遇刺案最新調查結果公布2024-11-22 08:44
阿桑奇所乘航班抵達澳大利亞首都堪培拉2024-11-22 08:32
英偉達股價連跌3日 市值蒸發4300億美元2024-11-22 08:29
美國再發氣象衛星 可監測空間天氣2024-11-22 08:20
日媒稱日本刷新一項深海科學鑽探紀錄2024-11-22 08:03
歐盟各成員國原則上同意對白俄羅斯實施新一輪制裁2024-11-22 07:58
道指低收約300點 納指升逾1% Nvidia反彈近7%2024-11-22 07:36
李強出席2024年夏季達沃斯論壇開幕式並致辭2024-11-22 07:28
阿根廷宣布對委內瑞拉總統馬杜羅發出逮捕令2024-11-22 06:35
哈馬斯領導人強調:不會改變加沙停火立場2024-11-22 06:32