微軟公司在近期的一項重大更新中，正式揭曉了內(nèi)置于Windows 11的新型設(shè)備端小型語言模型——Mu。這一創(chuàng)新舉措旨在為用戶帶來更為智能且自然的交互體驗，特別是在系統(tǒng)設(shè)置的搜索功能上實現(xiàn)了顯著提升。

回顧去年，微軟曾推出了搭載高性能專用神經(jīng)處理單元（NPU）的Copilot + 個人電腦系列，其NPU算力高達40 TOPS以上。這些電腦內(nèi)置了Phi - Silica，一款專為微軟第一方及第三方開發(fā)者應(yīng)用程序提供本地語言智能功能的小型語言模型（SLM）。

而今，微軟在Windows 11操作系統(tǒng)中引入了Mu，這一全新的本地小型語言模型，進一步推動了人工智能在操作系統(tǒng)中的應(yīng)用。Mu的設(shè)計初衷是成為一個基于AI的智能代理，能夠準確理解用戶的自然語言查詢，并將其無縫融入系統(tǒng)設(shè)置應(yīng)用中的搜索框，從而為用戶提供更加順暢的操作體驗。

目前，微軟已利用Mu模型為設(shè)置應(yīng)用中的全新代理功能提供支持，該功能已在開發(fā)頻道向Windows預(yù)覽體驗計劃成員開放，但僅限于使用Copilot + 個人電腦的用戶。這一功能的推出，標志著微軟在智能化操作系統(tǒng)領(lǐng)域邁出了重要一步。

Mu作為一款擁有3.3億參數(shù)的編碼器-解碼器語言模型，其架構(gòu)設(shè)計在提升性能方面表現(xiàn)卓越。與同尺寸的解碼器模型相比，Mu的編碼器-解碼器架構(gòu)能夠顯著降低首token延遲約47%，并將解碼速度提高4.7倍。Mu在部分組件中采用了權(quán)重共享技術(shù)，有效減少了總參數(shù)數(shù)量。該模型在Azure機器學習平臺上，利用NVIDIA A100 GPU進行了嚴格訓練。

盡管Mu的尺寸僅為Phi - 3.5 - mini的十分之一，但其性能卻幾乎與經(jīng)過類似微調(diào)的Phi - 3.5 - mini相當。更重要的是，Mu在處理多詞查詢時表現(xiàn)出色。對于短詞或部分詞輸入，系統(tǒng)設(shè)置應(yīng)用仍會在搜索框中顯示詞匯和語義搜索結(jié)果，確保用戶能夠輕松找到所需信息。

對于渴望體驗這一全新人工智能代理功能的用戶來說，只需下載Windows 11的最新版本（Build 26120.3964或更高版本），即可在設(shè)置應(yīng)用中暢享這一創(chuàng)新功能。這一更新無疑將為用戶帶來更加智能、便捷的操作體驗。