离线设置的人工智能:微软测试闪电般快速的Mu模型

离线设置的人工智能:微软测试闪电般快速的Mu模型

Arkadiy Andrienko

微软 正在为Windows 11 开发一个引人注目的功能,这对那些讨厌在设置菜单中翻找的用户来说,可能是一个新鲜的体验。它围绕一个小而强大的语言模型Mu展开,直接嵌入在Copilot+ PC的设置应用中。

Mu的主要卖点是什么?它完全离线工作,直接在您的设备上。没有云调用,也不需要将您的请求发送到服务器。这得益于对英特尔、AMD和高通的神经处理单元(NPU)的专门优化。尽管其规模不大(仅330百万个参数),该模型能够迅速处理命令,每秒输出超过100个单词。

想象一下:您打开设置,而不是在菜单中寻找,您只需输入请求,例如“调低音量”、“设置耳机”或“开启暗模式”。Mu应该能够理解您的意图并立即应用更改。它甚至可以处理更复杂的情况——例如,如果您有两个显示器并输入“调暗亮度”,该模型会尝试猜测您指的是哪个屏幕。如果Mu发现您的请求过于模糊或简短,它会自动回退到传统的设置搜索。

不要低估它的规模。Mu提供的结果接近于更大的模型。例如,在代码生成测试中,它的准确率(93.4%)几乎与显著更大的Phi-3.5-mini模型(93%)相匹配。由于没有云的往返,响应几乎是即时的。关键是,所有操作都在设备上进行,从而增强了安全性。

Mu将在未来的Windows 11更新中向配备Copilot+ PC(那些配备NPU的设备)的用户推出。目前,它正在与开发者(Windows Insiders Dev Channel)进行测试。微软的这一举措突显了日益增长的“本地AI”趋势——快速、私密且无需持续互联网连接的智能助手。很快,翻找复杂的设置菜单可能会成为过去式。

    关于作者
    评论0