微軟mono（微軟模版）
快科技6月24日消息，微軟微軟微軟宣布推出全新的模版本地小型語言模型Mu，旨在通過自然語言處理技術(shù)，微軟微軟提升用戶在系統(tǒng)設(shè)置中的模版搜索體驗微軟的目標是在設(shè)置應(yīng)用中創(chuàng)建一個AI驅(qū)動的代理，能夠理解用戶的微軟微軟自然語言查詢并將其集成到現(xiàn)有的搜索框中，以提供流暢的模版用戶體驗。
Mu為新代理功能提供支持，微軟微軟該功能最近已在開發(fā)頻道向Windows 預(yù)覽體驗計劃成員開放，模版僅限于使用Copilot +個人電腦的微軟微軟用戶使用。
據(jù)微軟介紹，模版Mu模型是微軟微軟一個3.3億參數(shù)的編碼器-解碼器語言模型，專為在神經(jīng)處理單元（NPU）上高效運行而設(shè)計，模版能夠?qū)崿F(xiàn)每秒處理超過100個tokens與類似大小的微軟微軟僅解碼器模型相比，Mu在首次token延遲上降低了約47%，模版解碼速度提高了4.7倍，微軟微軟此外，Mu通過在某些組件中使用權(quán)重共享來減少總參數(shù)數(shù)量，從而優(yōu)化性能。
盡管Mu的大小僅為Phi-3.5-mini的十分之一，但其性能幾乎相當(dāng)，尤其在處理多詞查詢時表現(xiàn)出色這一功能已向Windows Insider計劃的用戶開放，用戶可以通過下載Windows 11 Build 26120.3964（KB5058496）或更高版本來體驗這一新的AI驅(qū)動的代理功能。
【本文結(jié)束】如需轉(zhuǎn)載請務(wù)必注明出處：快科技責(zé)任編輯：黑白