Top
首页 > 正文

AI PC加速NPU集成应用

2024年被视为AI PC元年,根据市场研究机构群智咨询的预测,2024年全球AI PC整机出货量将达到约1300万台。而作为AI PC的算力中枢,集成了神经处理单元的计算处理器(NPU)也将在2024年大规模应用落地。
发布时间:2024-01-11 09:09        来源:电子信息产业网        作者:沈丛

2024年被视为AI PC元年,根据市场研究机构群智咨询的预测,2024年全球AI PC整机出货量将达到约1300万台。而作为AI PC的算力中枢,集成了神经处理单元的计算处理器(NPU)也将在2024年大规模应用落地。英特尔、AMD等第三方处理器供应商及苹果等PC厂商均表示,将在2024年推出搭载NPU的电脑处理器。与此同时,如何在电脑处理器中发挥出NPU的最大功效,也成为了业内热议的话题。

NPU助力PC更好运行AI应用

据了解,NPU可以根据网络运算的特点,通过软件或硬件编程,实现多种特定用途的计算功能。相比传统CPU和GPU,NPU能够以更高的效率、更低的功耗执行神经网络任务。

相比FPGA,NPU更具成本优势。业内专家告诉《中国电子报》记者,FPGA虽然同样在灵活性和可编程性方面具有优势,但主流FPGA芯片的制程节点通常在14nm~45nm之间,而NPU的制程节点往往在10nm以下,更加适合小型的PC和手机等消费电子设备。

在软件方面,NPU与主流软件实现了更好的兼容运行。“NPU能够通过标准化的接口,如OpenCL、CUDA、OpenVX等实现与AI框架交互;还更容易集成到不同的软件环境中。因此,NPU通常可以与主流的AI框架和软件栈更好地兼容,开发者也能更容易利用这些硬件加速器。”业内专家表示。

2017年,华为最先将NPU处理器集成到手机CPU中,显著提升了手机CPU单位时间计算的数据量和单位功耗下的AI算力,此举也让业内人士看到了NPU应用于终端设备的潜力。

随着AI应用越来越广泛,PC用户对于AI能力的需求也在持续增加,行业不少品牌开始尝试将NPU集成到PC处理器中。此举可以让用户不必依赖云端的计算资源,在PC端侧进行AI模型的训练和推理;NPU加持下,PC还支持用户根据个人所需进行模型的训练和优化,符合当前软件和服务的个性化、定制化发展趋势。

从目前来看,各家处理器供应商对内置NPU的电脑处理器表示出极大的兴趣,纷纷发布相关新产品。英特尔在近期发布了内置NPU的第14代酷睿Ultra移动处理器。英特尔官方表示,2024年将有230多款机型搭载酷睿Ultra。苹果将在2024年发布搭载M3处理器的MacBook笔记本电脑,据透露,其M3处理器的NPU性能相较于M1提升了60%。AMD宣布,其首次集成独立NPU的锐龙8040处理器将于2024年年初正式发布,AMD表示,加入NPU后,锐龙8040处理器的大语言模型性能提升了40%。

业内人士普遍认为,未来“CPU+NPU+GPU”的组合将成为AI PC的算力基座。CPU主要用于控制和协调其他处理器的工作、GPU主要用于大规模并行计算、NPU则专注于深度学习和神经网络的计算。三种处理器协同工作可以充分发挥各自的优势,提高AI计算的效率和能效比。

消费级高端PC将率先应用NPU

2024年,NPU作为AI计算的核心部件将会在PC上得到广泛应用,消费级高端PC用户或将先一步领略其产品魅力。

业内专家认为,在PC处理器中集成NPU需要一定的技术和资金投入,这也会导致PC成本上升。因此,NPU将首先应用在消费级高端PC产品线。

“目前搭载NPU的处理器主要集中在消费级PC上。因为消费级PC用户的需求和使用场景相对灵活,对产品性能、功能和使用体验的重视程度超过了对可靠性和使用寿命的关注。因此,PC厂商通常更愿意在其高端产品上应用新技术。而企业级PC对可靠性和使用寿命的要求更加严苛,企业用户更倾向于采用已经经过验证的技术,以确保系统的稳定性。因此,NPU在企业级PC的应用会更晚一些。”业内专家向《中国电子报》记者表示。

以英特尔最新发布的两款AI PC处理器为例,英特尔针对企业级PC用户推出的第五代至强可扩展处理器中,既没有采用最新制程,也没有集成NPU,而是继续沿用CPU处理器,并依旧采用较为成熟的Intel 7制程。与之形成鲜明对比的是,英特尔推出的消费级酷睿Ultra处理器,不仅采用了最新的Intel 4制程,还首次在处理器中加入了NPU。

在PC上用好NPU不容易

NPU的使用难点在于如何能释放出有效的算力。

英特尔公司中国区技术部总经理高宇表示,想要NPU充分发挥性能,并非“堆积”这么简单,而是要了解NPU的理论算力和实际应用算力,在此基础上优化现有的编程模型,使其更好地适应NPU的并行处理架构。这需要开发者和工程师深入了解NPU的工作原理和特性。除了编程模型优化外,还需要对硬件设备的性能进行优化,例如散热、功耗管理等。

为了进一步实现NPU在AI PC中的普及并释放出有效算力,需要建设针对NPU的生态。“为了推动NPU在PC领域的发展,需要建立一个包括硬件供应商、软件开发者、PC应用厂商在内的完善生态系统,健康活跃的生态系统,有助于NPU技术更好地发展。”业内专家说道。

专题访谈

合作站点
stat
Baidu
map