我买了一台带独立NPU的笔记本电脑，但它实际上完全没用

微软积极推动将人工智能整合到 Windows 中，同时也增加了一小块硬件，即神经处理单元（NPU）。如果你最近在寻找新笔记本电脑并想知道 TOPS 是什么，它就是内置 NPU 性能的衡量标准。

微软希望你相信你应该购买一台至少有 40 TOPS 强度的 NPU 的电脑，这样你就可以使用他们所有炫酷的 AI 功能。嗯，我买了一台，两年后，它仍然闲置在我的笔记本电脑里。

微软向我推销了一个人工智能的未来，但这不是它

Copilot+、NPU 和 AI 电脑的前景

从表面上看，这个方案实际上相当吸引人。微软及其硬件合作伙伴声称，有了 NPU，你的笔记本电脑就会成为一个私人的本地 AI 机器，可以运行大型语言模型、转录语音、应用实时视频效果等等，而无需将你的数据发送到云端处理。

最大的承诺是由NPU实现的设备端智能，使其既可访问又高效。NPU处理AI工作负载，而CPU和GPU保持空闲。它延长了电池寿命，并释放CPU和GPU资源，以供你可能需要的其他应用使用。

Recall 是 Windows 的旗舰功能，本应使用 NPU，让你能够使用自然语言搜索桌面活动。其他 Copilot+ 功能比如语义文件搜索、带实时翻译的实时字幕、摄像头背景模糊和眼神调整，甚至 Photos 应用中的 AI 图像优化，都为在下一台笔记本中配备 NPU提供了有力的理由。

NPU 的推动是微软、英特尔、AMD、高通以及其他主要 OEM 之间的协调努力。微软需要硬件来与苹果的 M 系列芯片竞争，这些芯片多年来一直集成神经引擎并有效使用它们。英特尔和 AMD 需要一种超越 CPU 原始时钟速度的差异化特性，而高通则需要让骁龙 X 系列看起来不仅仅是一个 ARM 笔记本芯片。

结果是一场营销风暴，将人工智能电脑定义为不仅仅是规格提升。这是一种全新的使用电脑的方式，至少这是微软所宣传的梦想。

拥有 NPU 实际上的感觉是这样的

大多数时候，它只是坐在那里

英特尔在2024年推出的Meteor Lake系列处理器中首次在消费级笔记本电脑中推出了NPU。自那时以来，本地大语言模型已经取得了很大进展，并且在某些任务上表现出色，但大多数流行的应用程序，如LM Studio或Ollama，仍然默认使用GPU或CPU。NPU只是闲置在那里。

Recall，这个被认为是NPU的皇冠上的明珠的产品，在发布后几乎立刻就变成了公关灾难。除了Recall本身就是隐私噩梦之外，它还面临了反复的延期和争议。更糟糕的是，研究人员找到了通过非官方方法在没有NPU的旧硬件上启用该功能的方式。

Copilot+ 体验的其余部分更偏向于功能性，但充其量只能算是中规中矩。Windows Studio 功效——网络摄像头背景模糊和眼神对焦校正——是有效的，但效果因人而异。带实时翻译的实时字幕可能会非常有用。而语义搜索让查找文件不那么痛苦，尽管用命令面板替代 Windows 搜索会好得多。

真正的问题不是硬件，而是软件

开发者还没有为它开发（尚未）

只有在程序明确编写为将工作负载卸载到 NPU 时，NPU 才会提供帮助。从运行本地大语言模型的工具到创意软件，几乎没有人在 Windows 机器上为了 AI 工作负载使用内置的 NPU。专用芯片架构意味着开发者必须专门编写针对 NPU 的代码。这不是应用程序可以自动依赖的功能。

英特尔自己在2024年CES的技术会议上承认，在Meteor Lake上，最苛刻的AI工作负载仍然会被转移到集成的Arc GPU上。NPU的设计是用于处理持续的、低强度的任务，比如背景模糊。Digital Trends测试了在GPU与NPU上运行背景模糊时的功耗差异，发现几乎没有差距，GPU在30分钟内平均功耗为18.9瓦，而NPU为17.6瓦——并没有营销所暗示的显著节能效果。

自那以后，微软一直试图将损害降到最低。它推出了 Windows ML，这是一个框架，允许开发者编写针对 CPU、GPU 和 NPU 的 AI 应用，而不仅仅是专门针对 NPU。

NPU 完全没用吗？

少数真正有益的功能

你笔记本电脑中的 NPU 并非毫无价值。如果你整天都在进行视频通话，设备上的 Studio 效果可以提供帮助。如前所述，实时字幕和语义搜索也是有用的功能，但其他基于软件的解决方案在购买笔记本时无需支付额外的高价。因此，如果这些使用场景中的任何一个吸引你，NPU 还是有一些基本用途的。

这里也有一个合理的面向未来的论点。软件生态系统最终往往会赶上硬件。随着工具的改进以及更多模型被量化并针对NPU进行调优，那些闲置的硅片可能最终会开始被使用。

然而，问题在于时机。是的，软件最终可能会开始使用NPU，但“最终”并不是我付钱所期待的。我已经拥有我的惠普Omen Transcend 14将近两年了，而NPU几乎没有被使用过。

不要为了 NPU 买笔记本电脑

有是好的，但还不足以值得涨价

如果你已经拥有一台配备NPU的笔记本电脑，你不必立即后悔。把NPU当作一个强大的背景模糊引擎，它明天可能会成为一个有用的AI加速器。关注本地AI工具的发展，因为很有可能它最终会开始使用NPU。

如果你正打算购买一台笔记本电脑，而营销宣传过于花哨，记住，基于独立 NPU 的高额价格上涨，其实是你在为一块目前几乎没有实际作用的昂贵硅片买单。它未来可能有用，但在那之前，你是在为一个尚未到来的功能付费。理论上，你的笔记本有一个用于人工智能的专用“大脑”；实际上，它只是一个昂贵的背景模糊按钮。