人工智能

Cloud AI 100、AMD EPYC 7003系列处理器和技嘉服务器解决方案共助AI推理破POPS大关

2025China.cn   2021年03月18日

  AI无疑已经成为推动下一代用户体验的驱动力。无论是快速浏览喜爱的社交应用,还是基于数万次AI推理提供的在线购物推荐,几乎每一项移动终端体验都与AI密不可分。目前,这些平台每天承载着数百万的用户量,这又意味着什么呢?它们需要海量性能出众的高密度服务器,来提供满足上述平台持续运行所需的AI推理性能。

  目前,通过与AMD最新的EPYC™ 7003系列处理器和技嘉科技的最新G292-Z43服务器解决方案相配合,高通技术公司正助力性能出众的机架式服务器满足高性能需求。上述企业在硬件技术专长领域的结合,带来了顶级性能并为现代化数据中心树立全新标杆。高通技术公司尖端的Cloud AI 100能够与技嘉服务器系统完美适配,这将推动众多出色的AI用例在高速数据分析、个性化推荐、智慧城市和5G通信等领域的普及。

  技嘉G292-Z43服务器将支持两台AMD EPYC™ 7003系列处理器用于处理负载,以及多个高通Cloud AI 100 PCI-E卡用于支持需要密集计算的应用来支持AI推理。高通Cloud AI 100推理加速器支持高达400 TOPS的算力,还拥有突破性的性能功耗比,并且仅通过单个高通Cloud AI 100 PCI-E卡即可实现。试想一下,如果每台技嘉服务器最多可搭载16个高通Cloud AI 100 PCI-E推理卡,即可提供高达每秒6.4千万亿次运算(400 TOPS x 16,1 POPS等于1000 TOPS)。这是首次基于高通技术公司AI技术的解决方案突破每秒千万亿次运算(POPS)大关。更值得注意的是,每个服务器机柜可管理超过19个上述服务器单元,从而轻松实现超过100 POPS的算力,这充分体现了高通技术公司在AI领域的强劲实力。欲了解相关参数,请参考以下信息图。

  更具体来看,单个算力为400 TOPS的HHHL(半高,半长)高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000张图像进行Resnet50模型分类推理,相当于一台服务器机柜每秒可处理超过600万张图像。如此强大的AI性能有望在全球市场增强并规模化扩展AI体验。我们衷心感谢AMD和技嘉科技为实现这一惊人成就所付出的努力。

  高通Cloud AI 100 PCI-E卡和搭载AMD EPYC™ 7003系列处理器的技嘉服务器即将面市,请参考文末产品图获取更多信息。

(转载)

标签:高通 人工智能 我要反馈 
2024全景工博会
ABB协作机器人,自动化从未如此简单
优傲机器人下载中心
即刻点击并下载ABB资料,好礼赢不停~
西克
专题报道
2024 工博会 | 直播探馆 · 全景解读
2024 工博会 | 直播探馆 · 全景解读

第二十四届中国工博会于9月24日至28日在国家会展中心(上海)举行,展会以“工业聚能 新质领航”为全新主题。 [更多]

2024世界人工智能大会
2024世界人工智能大会

WAIC 2024将于7月在上海举行,论坛时间7月4日-6日,展览时间7月4日-7日。WAIC 2024将围绕“以共商促... [更多]

2024汉诺威工业博览会专题
2024汉诺威工业博览会专题

2024 汉诺威工业博览会将于4月22 - 26日在德国汉诺威展览中心举行。作为全球首屈一指的工业贸易展览会,本届展览会... [更多]