生成式AI正在推动GPU和其他计算硬件的发展,同时也引起了网络芯片领域的新一轮竞争。

2023-06-30 01:08:00 思科(中国)有限公司

  • 电子发烧友网报道(文/周凯扬)随着生成式AI的热度不断增加,横向扩展AI训练与推理性能成为云服务厂商、数据中心以及互联网厂商追求的目标。庞大的GPU基数在当下几乎可以和强大的AI算力画上等号。然而,真正将这些GPU连接起来的,还是靠以太网交换机、路由这类网络芯片。随着数据中心解耦趋势愈发明显,网络芯片厂商都开始新一轮的军备竞赛,诸如博通、美满和思科等厂商都已经加快了新品推出的节奏。 博通Tomahawk系列网络芯片是12年来耕耘数据中心网络芯片的博通推出的首个量产51.2Tbps交换带宽的芯片。今年三月,Tomahawk 5系列芯片正式发布,实现了更高的端口密度,可以实现256高性能AI/ML加速器之间的单跳连接,且每个都能做到200Gbps的网络带宽。这大大提高了数据中心的AI训练和推理的负载吞吐效率,尤其是日益流行且愈发复杂的生成式AI模型。 Trident和Tomahawk芯片路线图 / 博通 在物理设计上,Tomahawk 5采用了如今已经趋近成熟的共封装光学(CPO)方案,相较过去的光模块在前端面板插拔的方案,CPO选择将网络交换芯片和光模块封装在一起。这一封装方案结合5nm的芯片工艺,将功耗进一步降低了30%。另外值得一提的是,博通的第三条网络芯片产品线,Jericho,也在近期迎来了新品Jericho3-AI。相比以高带宽为重心的Tomahawk产品线,和主打更多功能性的Trident产品线,Jericho往往以较低带宽、深度缓存和高可编程性著称。而Jericho3-AI虽然确实是28.8T的以太网交换机芯片,却针对AI训练负载做了特殊的优化,更高的端口密度使得Jericho3-AI可以在单个集群中连接32000个GPU,并做到800Gbps的连接带宽表现。博通甚至将其与英伟达自己的InfiniBand方案对比,Jericho3-AI在完成时间上有着10%左右的优势。

    思科(中国)有限公司
  • 思科(中国)有限公司 成立于20130822,注册地址在杭州市上城区望江国际中心3号楼19-20层 ,主要从事研究、开发、设计、委托生产数据电子产品、计算机硬件及软件、网络产品及配件;数据电子产品、计算机硬件及软件、网络产品及配件的批发、零售、佣金代理(拍卖除外)、进出口及相关配套服务(以上商品进出口不涉及国营贸易、进出口配额许可证、出口配额招标、出口许可证等专项管理的商品,涉及其他专项规定管理的商品按国家有关规定办理);提供信息系统和网络系统设计、系统集成,提供信息系统外包服务,信息系统运行维护服务;提供相关企业营销策划、咨询服务和售后服务;计算机和辅助设备修理(涉及许可经营的凭许可证经营)。。欢迎交流合作!。

  • 招聘范围主要集中在上海、北京、合肥。

  • 公司参与招标4次,公司参与中标72次,中标金额为12032.60(万元),最近项目为:广州农商银行2020年数据中心灾备主机及配套资源优化扩容项目供应商征集公告、调度系统网真建设项目(设备)及220kV变电站动环监控主站系统升级改造项目(二次采购)[0006200000048241]-公示公告、调度系统网真建设项目(设备)及220kV变电站动环监控主站系统升级改造项目[0006200000048241]-公示公告。

网站地图 用户协议 隐私政策 京ICP备18021895号 版权所有:北京百炼智能科技有限公司 友情链接: 百炼智能 潜客宝 知了标讯