英伟达GH200首次亮相AI性能基准评测,比H100性能提升17%

英伟达GH200首次亮相AI性能基准评测,比H100性能提升17%

划重点:当地时间9月11日,推出不到两个月的英伟达GH200 Grace Hopper超级芯片首次亮相MLPerf行业基准测试。在此次测试中,具有更高的内存带宽和更大的内存容量的GH200与H100 GPU相比,性能高出17%。Grace Hopper与DGX H100 SXM在MLPerf推理数据中心性能结果的比较。来源:英伟达在新闻发布会上,英伟达人工智能总监戴夫·萨尔瓦托(Dave Salv

碾压H100!英伟达GH200超级芯片首秀,性能跃升17%

碾压H100!英伟达GH200超级芯片首秀,性能跃升17%

新智元报道编辑:编辑部【新智元导读】传说中的英伟达GH200在MLPerf 3.1中惊艳亮相,性能直接碾压H100,领先了17%。继4月份加入LLM训练测试后,MLPerf再次迎来重磅更新!刚刚,MLCommons发布了MLPerf v3.1版本更新,并加入了两个全新基准:LLM推理测试MLPerf Inference v3.1,以及存储性能测试MLPerf Storage v0.5。而这,这也是

英伟达GH200首次亮相AI性能基准评测,比H100性能提升17%

英伟达GH200首次亮相AI性能基准评测,比H100性能提升17%

·英伟达GH200 Grace Hopper超级芯片首次亮相影响力最广的国际AI性能基准评测——MLPerf行业基准测试。在此次测试中, GH200每芯片性能优势比H100 GPU高出17%。·为提高大型语言模型(LLM)的推理性能,英伟达推出一款能够优化推理的生成式AI软件——TensorRT-LLM,其能够在不增加成本的情况下将现有H100 GPU的推理性能提升两倍以上。当地时间9月11日,推

英伟达再度发力AI!联手两大印度企业开发超算、大模型及应用

英伟达再度发力AI!联手两大印度企业开发超算、大模型及应用

除了巩固“卖铲人”的地位,英伟达也在继续扶持“掘金者”。新近消息显示,英伟达寻求通过联手两家印度企业巨头进一步发力人工智能(AI)。美东时间9月8日周五,英伟达宣布,和印度最大私营企业信实工业(Reliance Industries Limited)合作开发印度自己的基础大语言模型(LLM),该模型将在印度国内多种语言环境下训练,并且为生成式AI的应用量身定制,服务于印度国民。英伟达和信实工业将通

Lisa登上社交平台收入富豪榜 每条贴文可获57万美元

Lisa登上社交平台收入富豪榜 每条贴文可获57万美元

8月17日Hopper HQ发布了2023年顶级Instagram收入名单中,Lisa 位列第26位,她的每个广告贴文可获得575000美元,并且是前100名中唯一的KPOP艺人。据悉,Lisa手握34则千万ins帖,亚洲女艺人断层第一,Kpop女艺人排名前十一。

斯坦福AI虚拟小镇开源;英伟达再推超级芯片;OpenAI发布爬虫机器人 | 本周硅谷发生了什么?

斯坦福AI虚拟小镇开源;英伟达再推超级芯片;OpenAI发布爬虫机器人 | 本周硅谷发生了什么?

一周速览本周,硅谷的AI公司们依旧活跃。最火爆的话题,莫过于《西部世界》照进现实——斯坦福Smallville的「虚拟小镇」正式开源,25个人工智能体在小镇中自由生存、从事“类人”活动,引起网友的广泛讨论。另外,在基础设施层,继上周AMD推出MI300芯片,本周英伟达又放出大招:推出新版超级芯片GH200,主要面向大模型和生成式AI。OpenAI则发布了一款新的爬虫机器人,但用户可以选择自己的数据

英伟达生成式AI超级芯片GH200,两倍H100算力,黄仁勋:它会疯狂推理

英伟达生成式AI超级芯片GH200,两倍H100算力,黄仁勋:它会疯狂推理

机器之心报道编辑:小舟、蛋酱等不及架构革新,英伟达「提前」发布了生成式 AI 专用的芯片。当地时间 8 月 8 日,英伟达 CEO 黄仁勋在计算机图形学顶会 SIGGRAPH 2023 上发布了专为生成式 AI 打造的下一代 GH200 Grace Hopper 平台,并推出了 OVX 服务器、AI Workbench 等一系列重磅更新。五年前,也是在 SIGGRAPH 大会的演讲中,英伟达宣布将

英伟达推出最强AI芯片:首发HBM3e,大模型运行能力提升3.5倍!

英伟达推出最强AI芯片:首发HBM3e,大模型运行能力提升3.5倍!

摘要:美国当地时间8月8日,英伟达又发布了新一代GH200 Grace Hopper(简称“新版GH200”)平台。但与今年5月发布的GH200不同的是,新一代GH200搭载了全球首款HBM3e内存,内存容量和带宽都有显著提高,专为加速计算和生成式AI时代而打造。早在今年5月29日,AI芯片大厂英伟达(NVIDIA) CEO黄仁勋就在COMPUTEX 2023展前发布会上,正式发布了升级版的GH2