AI算力的最后一公里,谁来保障?

AI算力的最后一公里,谁来保障?

以数促实,数实共生。继成功举办10届全球合作伙伴大会之后,中国移动将携手数百家国内外合作伙伴,于2023年10月11-13日在中国广州保利世贸博览馆召开第11届中国移动全球合作伙伴大会。本届大会将进一步全面展示中国移动和合作伙伴在5G-A、6G、算力、AI等领域最新技术创新,算力网络等新型基础设施最新解决方案,数字经济和实体经济深度融合最新应用案例,为加快构建新发展格局和推动高质量发展赋予新动能。

英特尔Gaudi2的AI推理性能达到英伟达A100的2倍以上

英特尔Gaudi2的AI推理性能达到英伟达A100的2倍以上

9月12日,MLCommons公布针对 60 亿参数大语言模型及计算机视觉与自然语言处理模型GPT-J的 MLPerf推理v3.1 性能基准测试结果,其中包括英特尔所提交的基于Habana® Gaudi®2 加速器、第四代英特尔®至强®可扩展处理器,以及英特尔®至强® CPU Max 系列的测试结果。该结果显示了英特尔在AI推理方面极具竞争力的表现,并进一步加强了其对加速从云到网络到边缘再到端的工

60亿参数AI模型测试:Intel 2.4倍领先!唯一可替代NVIDIA

60亿参数AI模型测试:Intel 2.4倍领先!唯一可替代NVIDIA

快科技9月12日消息,MLCommons官方公布针对60亿参数大语言模型及计算机视觉与自然语言处理模型GPT-J的 MLPerf推理v3.1的性能基准测试结果,Intel CPU处理器、AI加速器表现亮眼,在AI推理方面相当有竞争力。此前6月份披露的MLCommons AI训练结果、Hugging Face性能基准测试成绩表明,Intel Gaudi2 AI加速器在先进的视觉语言模型上,表现完全可

比Python快6.8万倍,LLVM之父新语言Mojo首次开放下载

比Python快6.8万倍,LLVM之父新语言Mojo首次开放下载

梦晨 发自 凹非寺量子位 | 公众号 QbitAI什么编程语言,敢号称是高性能版的“Python++”?新语言Mojo,来自LLVM之父和Swift之父Chris Lattner,性能可达到目前版本Python的68000倍。你没看错,几个月前团队还宣称是35000倍,换了台机器测评就成了68000倍。现在,Mojo终于开放编译器和完整本地开发环境的下载,首日就在开发社区引发轰动。它语法像Pyth

Intel首秀下下代56核心至强:一分为五

Intel首秀下下代56核心至强:一分为五

Intel Sapphire Rapids四代至强跳票太久,后续规划正在提速,年底就会有第五代的Emerald Rapids,明年更是有全新的第六代。六代至强分为纯大核Granite Rapids、纯小核Sierra Forest,前者最多56核心112线程(双芯的AP版本112核心224线程),而后者最多144核心144线程。现在,Intel首次公开展示了六代至强之Granite Rapids的

如何优化ChatGLM-6B?一行代码就行 | 最“in”大模型

如何优化ChatGLM-6B?一行代码就行 | 最“in”大模型

编者按:小小一行代码,也有大力量。大语言模型的应用与微调优化必要性ChatGPT 的横空出世开启了大语言模型 (LLM) 的普及元年,BERT、GPT-4、ChatGLM 等模型的非凡能力则展现出类似通用人工智能 (AI) 的巨大潜力,也因此得到了多行业、多领域的广泛关注。为加速这些大模型与特定领域的深度融合,以及更好地适应特定任务,基于任务特性对这些模型进行定制化微调至关重要。然而,它们庞大的参

首发支持Win12 Intel酷睿Ultra处理器押注AI:重塑所有体验

首发支持Win12 Intel酷睿Ultra处理器押注AI:重塑所有体验

快科技8月4日消息,Intel今年的处理器产品线会有重要变化,桌面版会推出14代酷睿,但它实际上是13代酷睿架构基础上打磨而来的,插槽及主板向下兼容,而移动版则会迎来全新的酷睿Ultra,也就是Meteor Lake。这个系列变化就大多了,不仅首发Intel 4工艺——这是Intel第一代EUV工艺,芯片架构也会是酷睿首次使用小芯片架构,CPU、GPU及IO模块最多有4种工艺。缺点就是核心数从当前