英特尔在9月下旬,宣布Gaudi 3加速器即将出货,为全球企业带来了生成式AI选择。英特尔表示,相比于英伟达的H100,Gaudi 3的训练性能提高了70%,推理能力提高了50%,效率提高了40%,同时功耗会更低。
据TrendForce报道,英特尔调整了2025年Gaudi 3加速器的目标出货量,大幅度减少了超过30%,对整个供应链可能会造成较大的影响。有业内人士透露,主要原因是英特尔内部的战略调整和客户需求的波动,随着Gaudi 3出货量减少,也相应地减少了对台积电(TSMC)、日月光科技、世芯科技等企业的订单。在完成Gaudi 2和Gaudi 3的开发后,英特尔似乎对Habana Labs开发下一代加速器持保守态度。
相比于Gaudi 2,新一代的Gaudi 3提供了两倍的FP8和四倍的FP16性能;制造工艺由7nm升级到了5nm,由台积电负责制造;采用第五代张量处理核心,内核数量由24个增加到了64个,另外还有8个矩阵计算引擎;内存和缓存从96GB HBM2E / 48MB提高到了128GB HBM2E / 96MB,内存带宽从2.45TB/s提升至3.7TB/s;网络连接从24个100GbE变成了24个200GbE;提供了TDP为600W的PCIe 5.0双槽扩展卡和TDP为900W的OAM模块。