NVIDIA Hopper 首次亮相 MLPerf在 AI 推理基准测试中一骑绝尘
来源:撲克王二维码下载 发布时间:2024-11-22 20:51:37
在行业标准 AI 推理测试中,NVIDIA H100 GPU 创造多项世界纪录、A100 GPU 在主流性能方面展现领先优势、Jetson AGX Orin 在边缘计算方面处于领先地位。
这些测试根据结果得出,对那些需要在高级 AI 模型上获得最高性能的用户来说,Hopper 是最优选择。
H100 (又名 Hopper)提高了本轮测试所有六个神经网络中的单加速器性能标杆。它在单个服务器和离线场景中展现出吞吐量和速度方面的领先优势。
NVIDIA H100 GPU 在数据中心类别的所有工作负载上都树立了新标杆
Hopper 在流行的用于自然语言处理的 BERT 模型上表现出色部分归功于其 Transformer Engine。BERT 是 MLPerf AI 模型中顶级规模、对性能要求最高的的模型之一。
这些推理基准测试标志着 H100 GPU 的首次公开亮相,它将于今年晚些时候上市。H100 GPU 还将参加未来的 MLPerf 训练基准测试。
在最新测试中,NVIDIA A100 GPU 继续在主流 AI 推理性能方面展现出全方位领先,目前主要的云服务商和系统制造商均提供 A100 GPU。
在数据中心和边缘计算类别与场景中,A100 GPU赢得的测试项超过了任何其他提交的结果。A100还在6月的MLPerf训练基准测试中取得了全方位的领先,展现了其在整个AI工作流中的能力。
A100 还在6月的 MLPerf 训练基准测试中取得了全方位的领先,展现了其在整个 AI 工作流程中的能力。
NVIDIA AI 是唯一能够在数据中心和边缘计算中运行所有 MLPerf 推理工作负载和场景的平台。
NVIDIA GPU 在所有主要 AI 模型上的领先性能,使用户成为真正的赢家。用户在实际应用中通常会采用许多不一样的神经网络。
例如,一个AI 应用可能需要理解用户的语音请求、对图像进行分类、提出建议,然后以人声作为语音信息提供回应。每个步骤都要使用到不一样的 AI 模型。
MLPerf 基准测试涵盖了所有这些和其他流行的 AI 工作负载与场景,比如计算机视觉、自然语言处理、推荐系统、语音识别等。这些测试确保用户将获得可靠且部署灵活的性能。
MLPerf 凭借其透明性和客观性使用户能做出明智的购买决定。该基准测试得到了包括亚马逊、Arm、百度、谷歌、哈佛大学、英特尔、Meta、微软、斯坦福大学和多伦多大学在内的广泛支持。
在边缘计算方面,NVIDIA Orin 运行了所有 MLPerf 基准测试,是所有低功耗系统级芯片中赢得测试最多的芯片。并且,与 4 月在 MLPerf 上的首次亮相相比,其能效提高了50%。
在上一轮基准测试中,Orin 的工作速度和平均能效分别比上一代 Jetson AGX Xavier 模块高出 5 倍和 2 倍。
MLPerf 结果为,NVIDIA AI 得到了业界最广泛的机器学习ECO的支持。
在这一轮基准测试中,有超过 70 项提交结果在 NVIDIA 平台上运行。例如,Microsoft Azure 提交了在其云服务上运行 NVIDIA AI 的结果。
此外,10 家系统制造商的 19 个NVIDIA 认证系统参加了本轮基准测试,包括华硕、戴尔科技、富士通、技嘉、慧与、联想、和超微等。
它们的根据结果得出,无论是在云端还是在自己数据中心运行的服务器中,用户都能借助 NVIDIA AI 获得出色的性能。
NVIDIA 的合作伙伴参与 MLPerf 是因为他们了解这是一个为客户评估 AI 平台和厂商的重要工具。最新一轮根据结果得出,他们目前向用户更好的提供的性能将随着 NVIDIA 平台的发展而增长。
用于这些测试的所有软件都可以从 MLPerf 库中获得,因此任何人都能够得到这些世界级成果。NGC( NVIDIA 的 GPU 加速软件目录)上正在源源不断地增加以容器化形式提供的优化。在这里,你还会发现 NVIDIA TensorRT,本轮测试的每此提交都使用它来优化 AI 推断。
关键字:引用地址:NVIDIA Hopper 首次亮相 MLPerf,在 AI 推理基准测试中一骑绝尘
日前,大陆集团与英伟达宣布将联合开发基于NVIDIA DRIVE平台的人工智能无人驾驶汽车系统,新系统将具备3级自动化驾驶功能,并计划于2021年正式上市。 英伟达创始人兼首席执行官黄仁勋表示:“英伟达目前已具备从AI无人驾驶汽车的研发到投入大规模生产的所有关键要素。我们将把全新的Xavier处理器、应用广泛的NVIDIA DRIVE软件以及用于确保测试、验证和功能安全的云端到车辆通路与大陆集团的专业相关知识和全球影响力相结合,把无人驾驶汽车推向全世界。” 早在2016年9月28日,黄仁勋在首次召开的欧洲GTC上发布了下一代无人驾驶芯片Xavier,发布的Xavier不仅是一款芯片,更是一款专为无人驾驶汽车设计的新一代人工智能超
全球到底有多少AI(人工智能)从业者?又有多少企业在招募AI人才?近日,职场社交平台LinkedIn(领英)根据平台上全球5亿高品质人才大数据,对全球AI领域核心技术人才的现状、流动趋势和供需情况做了一系列深入分析,发现全球AI从业者已达到190万,人才需求三年翻了8倍。 有意思的是,人工智能虽然是当下的热门词汇,但人才积累早在10多年前就慢慢的开始。从职场数据看,在全球AI领域拥有10年以上从业经验的人才占比高达65.4%。其中,AI领域的华人技术力量不可以小看——全世界华人AI人才数量达14万。这一潜力巨大的技术人才群体,或将成为引领中国人工智能技术突破的关键力量。 全世界都在抢AI人才 领英比较了数据库中的AI人才发展经历后发现
46年前,先驱者10号驶向太空,成为人类历史上第一个驶出太阳系的探测器——以这个人类探索未知宇宙的故事开场,昨天下午,寒武纪创始人兼CEO陈天石发布了其最新产品,寒武纪1M智能处理器芯片及首款云端智能芯片MLU100。这两款产品的发布,也代表着寒武纪成为中国首家同时拥有终端和云端智能处理器产品的公司。 此前,另一家明星勇于探索商业模式的公司——地平线,也发布了中国首款全球领先的嵌入式人工智能视觉芯片。正在举行的北京国际车展上,地平线还展示了其无人驾驶计算平台Matrix 1.0。该计算平台主要在高级别无人驾驶场景中使用,搭载了地平线今年将会推出的新一代无人驾驶芯片架构。地平线创始人余凯透露,其自主研制的处理器已经卖到了美国,具体进展
摩尔定律(Moore’s Law)自1965年提出以来,数十年来成为全世界半导体产业前进准则,但这几年逐渐看见疲态,恐有迈向终结的可能,若真是如此,数十年跟随摩尔定律前进的英特尔(Intel)势必需要全新战略来延续趋势,除此之外,外界认为摩尔定律的终结对NVIDIA来说反而是好消息,不过中央处理器(CPU)不会因此就消失或遭淘汰,仍会存在、只是没那么令人惊艳。 根据富比士(Forbes)报导,SeekingAlpha专栏作家Bruce Pile指出,在当前全球半导体领域英特尔面临愈来愈大的挑战,逐渐不被视为坚不可破,过去在PC时代CPU扮演主要的运算角色,因此时脉速率及电晶体密度就非常重要。 此后随着更多元运算需求的出现,
在7月份的年中业绩媒体沟通会上,华为曾宣布,将于今年秋季正式推出人工智能芯片。 华为消费者业务CEO 余承东 表示,华为将是第一家在智能手机中引入人工智能处理器的厂商。 HUAWEI P10 Plus 今日,@华为终端公司 官微宣布,将于9月2日在德国柏林的IFA 2017大展上举办新品发布会,一起见证HUAWEIMobileAI的到来。 此前,华为曾在官方Twitter发布预热海报,称“AI不止是语音助手”。据悉,余承东将在上述新品发布会上发表主题演讲,聚焦AI将给人类带来什么。 届时,我们大家可以一窥华为AI在真实的生活场景中的应用细节。 预计,华为的这颗人工智能芯片既可集成化到麒麟SoC中,也可独立
据台湾经济日报报道,对于英伟达将其GPU转向三星代工一事,业内人士及产业专家认为,这件事并未撼动台积电领先的优势,实质上影响有限。 据报道,台湾经院研究员暨产业顾问刘佩线纳米制程的良率及量产落后于台积电,但是下半年在良率稳定及产能大量提升下,三星就开始积极“抢单”的动作。目前还不知道英伟达实际下单给三星的情况,但就英伟达约占台积电整体营收6%来说,实质上影响还是有限。但因是重要的指标性客户,所以在心理层面上会有影响。 刘佩真表示,台积电客户如果会变心,也不会是在初期,一定是要在良率及量产都稳定之后才会愿意转单,以英伟达来看,可能是台积电7纳米产能满载的溢单效应,也可能是处于对价格的考虑,但不管原因如何,台积电必须
中国大型检索服务提供商 百度 在近日于北京举办的该公司年会“Baidu World”上宣布,将与美国英伟达公司合作开发基于AI(人工智能)的 无人驾驶 汽车用平台。双方将面向全球的汽车厂商提供该平台。 开发的平台将结合百度的云系统和地图制作技术和英伟达的驾驶控制系统软件。双方将开发无人驾驶所需高精度地图、“3级”无人驾驶功能及自动驻车功能等。 英伟达CEO(首席执行官)黄仁勋说,“完全无人驾驶汽车的开发涉及到从车载超级计算机到AI算法乃至云服务器上3D(三维)地图的更新等所有端到端的课题”。由此强调了不仅是车辆,还包含信息基础设施在内的系统开发非常重要。 百度正在加速开展无人驾驶技术的开发,该公司于20
6月9日消息,预计明年推出的USB 3.0标准被业界寄予厚望,而AMD和Nvidia指责英特尔在该标准的制定过程中排挤其它竞争对手,为此它们试图联手另起炉灶,创建第二套USB 3.0标准标准,然而这一“无奈”之举只能使用户受损。 据国外新闻媒体报道,英特尔去年曾展示过USB 3.0连接器和附加卡。USB 3.0 是下一代高速连接标准,预计将于2009年推出。该标准的重要意义在于,未来的几乎所有的PC及外设之间的连接都一定要遵循这一标准,该标准下的数据传输速率可达目前广泛采用的USB 2.0的10倍,即每秒达5GB。 早在1995年,USB标准的制定和推广机构——“USB执行论坛”就是由Intel联合微软等业界巨头组建的
视觉算法工程师成长指导手册
东芝1200V SIC SBD “TRSxxx120Hx系列” 助力工业电源设备高效
2024 瑞萨电子MCU/MPU工业技术研讨会——深圳、上海站, 火热报名中
STM32N6终于要发布了,ST首款带有NPU的MCU到底怎么样,欢迎小伙们来STM32全球线上峰会寻找答案!
TI 有奖直播 使用基于 Arm 的 AM6xA 处理器设计智能化楼宇
深圳睿瀚医疗科技有限公司总经理万斌以“脑机接口与康复机器人的融合与展望”为主题,就脑机接口技术、康复机器人的现状与未来发展状况做探讨。...
手功能康复机器人作为近年新兴的手功能康复治疗方法之一,已被逐渐应用于临床实践,并取得了较好临床效果。...
法兰克福,2024年 12 月20日 – 中国机器人应用速度持续加快:在机器人与工厂工人的比例方面,中国已超过德国和日本,2023 年跃居世界 ...
Molex莫仕发布新报告, 展望未来机器人行业并探讨人机协作的巨大潜力
人工智能、机器学习及传感器融合技术的进步,促进了机器人在工厂自动化、家庭服务、教育辅助、医疗健康以及军事应用等多个领域的功能拓展。 ...
11月18日消息,日前,央视军事报道,称目前我国的科研团队正在进行未来六足登月机器人的研发工作。据介绍,和四足机器人相比,六足机器人的 ...
全国首批人形机器人具身智能标准发布:按下肢运动、上肢作业等分 4 个等级
ADR435A 5 Vout 超低噪声 XFET 电压基准的典型应用,具有灌电流和拉电流能力
采用多个 ADC 且适用于同步相干 DAQ 的灵活接口 (PRU-ICSS) 参考设计
NOIP1SE0480A-HEAD-BD-A-GEVK:PYTHON 480 成像评估板(彩色)
基于STSPIN240的STM32 Nucleo低压双刷直流电动机驱动器扩展板
意法半导体披露 2027-2028 年财务模型及2030年目标实现路径
英飞凌与西门子将嵌入式汽车软件平台与微控制器结合 为下一代SDV提供所需功能
有奖直播:ADI数字主动降噪耳机方案 8月6日上午10:00-11:30 邀您聆听让技术为我们静下来
打造健康生活,成就强劲工具 TE Connectivity (TE) 智慧生活子系统解决方案