体验AMD Ryzen AI后我发现,笔记本AI新时代的大门打开了

以前有这样一个段子:苹果知道x86平台是主流,不过它想要AI功能,无奈英特尔给不了,结果苹果抛弃英特尔去自研了M1芯片并转向了ARM阵营。虽说段子的娱乐成分很大,但不可否认的是苹果M1芯片确实在PC芯片中首次集成了用于机器学习的神经引擎,它开启了Mac笔记本的AI时代。x86阵营呢?一度这个领域还是一片空白,但AMD在今年带来了首款基于x86处理器的专用人工智能硬件——Ryzen AI引擎,可以说是开启了x86处理器的AI时代。那么支持锐龙AI的笔记本目前能带来怎样的AI体验呢?

大家可能都比较熟悉智能手机上的一些操作,比如拍照时可以用“人像模式”来自动虚化背景;打开手机相册时,照片会自动归纳分类;在iPhone相册里长按照片中的人物时,系统会自动抠图……这些功能其实都是手机端的AI计算来实现的,因为不管是苹果A16仿生芯片还是高通骁龙8 Gen2移动平台,它们都内置了用于AI计算的AI引擎。

既然智能手机可以实现AI,那么同为移动设备的笔记本自然也可以有AI。在苹果M1到来之前,笔记本厂商早就研究过这件事,比如技嘉在2019年发布了搭载微软Azure AI技术的笔记本电脑——技嘉AERO 15和Aorus 17,它们基于微软Azure AI云端方案,可以通过学习不同软件和游戏的负载需求智能地分配CPU和GPU的资源与功耗,并自动设置风扇模式、键盘灯效等。2019年,英特尔在第10代酷睿移动处理器中也首次加入了英特尔GNA专用引擎以及新的指令集,让酷睿笔记本具备一定的AI功能。戴尔旗下的智能调优软件Dell Optimizer也可通过AI和机器学习来智能优化笔记本电脑的性能。

但这些方案都有不足的地方。比如微软Azure AI是基于云端的方案,无法在本地运行,始终会受到网络环境的影响。英特尔GNA专用引擎虽然集成在处理器中,但功能单一,性能孱弱,更多是用于笔记本上有关声音/音频的机器学习模型的推理,不能称之为真正意义上的AI引擎。Dell Optimizer则是一款软件,它更多是调用CPU或者GPU的计算能力。

诚然许多机器学习引擎和模型都能在CPU或者GPU上运行,比如x86平台中AVX-512 VNNI、AVX-512 BF16等指令集的加入令CPU具备一定的深度学习训练和推理能力;GPU不用多说,它更擅长此类计算。问题是如果在笔记本中让CPU或者GPU(轻薄本甚至只有集显)来处理深度学习训练和推理,就会让CPU或者GPU长期处于高负载状态,笔记本将更费电,而且这样既没有高能效也没有高效率。这件事必须交给更专业的“人”来做,它就是独立的AI引擎,所以我们看到苹果在M1中加入了一个16核的神经引擎。

而AMD这次则在锐龙7040系列处理器中加入了Ryzen AI引擎,带来首款基于x86处理器的专用人工智能硬件。目前x86处理器中集成专门的AI处理模块,只有锐龙7040H/HS系列。据说,英特尔要在未来的第14代酷睿Meteor Lake处理器中,才会内置一个神经网络计算引擎VPU,也就是要等到下一代才会有类似的设计。

AMD的Ryzen AI引擎基于专门设计的AMD XDNA AI架构,其核心是多个独立的AIE单元,而且与传统的CPU多核运算相比,XDNA AI架构有多个独立的内存电压单元以及对应的内存控制器并拥有独立的高速互连通道,所以它在进行AI推理时更加灵活,效率更高,性能也更强。

根据AMD公布的详细规格信息,可以看到移动平台的XDNA AI架构有着超高的能效、强大的算力,它支持不同的AI神经网络,比如CNN(卷积神经网络)、RNN(循环神经网)、LSTM(长短时记忆)等。它还支持Int8/16/32、BFloat16等各种高级数据类型,同时XDNA AI架构还具备实时多任务能力,可处理最多4条并发空间流。

我们用两台14英寸的轻薄笔记本电脑来简单对比一下锐龙9 7940HS平台(内置Ryzen AI引擎)与酷睿i9-13900H平台在AI性能上的差距。我们通过UL AI Inference Benchmark来测试,该软件囊括了Mobile Net V3、Inception V4、YOLO V3、DeepLab V3、Real-ESRGAN和ResNet 50等神经网络模型,支持Microsoft Windows ML、Qualcomm SNPE、英特尔OpenVINO和NVIDIA TensorRT等4种SDK。在Microsoft Windows ML测试场景下,Ryzen AI引擎加持的锐龙9 7940HS平台在Float32和Integer精度中的成绩都领先于酷睿i9-13900H平台,领先幅度最高达到大约40%。

在笔记本中加入Ryzen AI引擎有什么用呢?因为Ryzen AI引擎主要的任务是处理AI推理与运算,所以在很多专用的场景以及不少常见的应用场景中,它能够为CPU或者GPU分忧,发挥自己高能效的优势。比如,Ryzen AI引擎能够进行自然语言处理,使笔记本能够解读、处理和理解人类语言。

在图像和视频处理方面,Ryzen AI引擎也能发挥专长,比如它能够快速高效地处理图像和视频数据,完成诸如更换背景、消除噪音、人脸识别、图像分类、图像修复等任务。除了图像和视频,Ryzen AI引擎还能在语音处理方面发挥作用,比如识别语音并将其转换为文字,同时进行语音合成等。当然,Ryzen AI引擎还能通过它的高能效来延长笔记本的电池续航时间。

有了在笔记本上进行AI推理运算的硬件基础,实际应用层面则需要业界生态的支持。AMD目前已经和微软进行合作,借助Windows Studio Effects效果来提升Windows系统中关于摄像头的体验。具体来说,Windows Studio效果可让用户将某些滤镜和效果应用到摄像头和麦克风上,以改善用户在视频通话期间的外观和声音,它们需要神经处理单元提供支持。

在支持Ryzen AI的笔记本上,我们可以快速启用Windows Studio效果。最简单的方法就是单击通知区域图标组打开快捷设置,选择“工作室效果”。在默认情况下,你会先看到相机效果。此时你可以方便地对相机效果(背景虚化、眼神交流、自动取景)进行设置。

当然,你也可以直接在系统的相机设置中启用Windows Studio效果(上图),这里的设置项目更加丰富、细致。而我们对比一下其他不支持Windows Studio效果的笔记本(下图)就能看到,它的相机设置里面是找不到背景虚化、眼神交流、自动取景等功能的,这类笔记本如果要使用这些功能,或许只有借助第三方软件才行——而这无疑会增加系统负载,并影响续航。

值得一提的是,Windows系统摄像头的自动取景、眼神接触、背景模糊等功能的背后都由Ryzen AI引擎来进行高效处理的,而且开启这些功能之后CPU的使用率并不会明显增加。

有了系统底层上的功能支持,就算原生不支持任何视频效果的软件(比如TIM)也能在系统开启相应功能之后,得到背景模糊、眼神接触、自动取景等效果。这些基于Windows的高级功能可以在搭载AMD锐龙7040系列处理器和Ryzen AI的笔记本电脑上直接使用,但目前的酷睿笔记本上则不能使用。

可以说笔记本之于AI神经引擎还处于早期发展阶段,对于Ryzen AI引擎来说也一样,所以我们目前看到Ryzen AI在笔记本上的应用场景还不多。不过地基建好了,接下来就等盖房子了。

根据AMD公布的路线图来看,AMD已经在加快步伐,今年第四季度将联合微软和更多的OEM合作伙伴、开发者以及ISV服务商来做大做强Ryzen AI生态,届时Ryzen AI的模型也将涵盖更多,包括ONNX、TensorFlow、PyTorch等。

据AMD介绍,未来Ryzen AI还将在更多方面发挥作用,比如在内容创作方面与Premiere Pro等软件合作;比如为用户带来个人AI助理,帮用户制作PPT、演讲稿等;再比如打造AI生活助手,帮用户快速整理照片或者增强游戏等。

实际上AMD这是打开了笔记本AI新世界的大门。如果我们将上面寥寥数语仔细分析下来,可以这样猜想:性能强大的Ryzen AI是否可以协同CPU、GPU在Premiere Pro中加速特效渲染、视频导出?又或者在集显轻薄本中,Ryzen AI能否会协同CPU和集显在创意软件中起到加速作用?这些都是值得期待的。

再比如个人AI助理,这里指的可能是我们常见的聊天机器人,比如它内置在系统中,借助Ryzen AI的自然语言处理能力来帮用户完成一些简单的快捷操作、文档操作、文字撰写等任务,这也不是没有可能。而AI生活助手就更好理解了,AI神经引擎本来就非常会处理图像和视频,它可以帮用户自动整理好照片,做到分类、归纳、标记等,甚至还能让我们随意搜索照片内容(这在手机上已经实现)。

展望下未来,虽然微软没有确认更多细节,根据目前的信息,很可能命名为Windows 12的下一个版本的Windows将专注于AI体验,深度集成人工智能功能,提供类似如上所述的功能。包括 Windows 分析当前正在查看的信息并根据上下文提示,以快速启动项目或应用的功能。Windows还可以识别图像中的对象和文本,让用户可以轻松地将这些内容剪切和粘贴到其他位置,但诸如此类的AI功能将需要像Ryzen AI这样的专用硬件支持才能运行。从兼容下一代软件的角度来看,AMD在专用AI这方面的先发优势,也是竞争对手无法比的。

我们现在经常在手机和手机App中看到“个性化推荐”等选项,笔记本也一样的道理,有了AI神经引擎,它在后台可以无时无刻学习用户使用笔记本的习惯和偏好,到一个地方自动打开Wi-Fi开关、切换性能模式、换壁纸、关闭摄像头、调整键盘灯效、感知到外出时及时保存硬盘数据、及时休眠等,它就像我们的笔记本管家,悄无声息地把万事安排妥当。这并不只是单方面的性能提升,而是笔记本使用体验上的整体升级,更是一个AI新时代的到来。