www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁 > 芯聞號 > 極客網(wǎng)
[導(dǎo)讀]上周,微軟宣布推出一款名為“Mu”的新型生成式人工智能(GenAI)系統(tǒng),它讓我們得以一窺未來我們使用各種設(shè)備(從個人電腦到烤面包機)的方式。

上周,微軟宣布推出一款名為“Mu”的新型生成式人工智能(GenAI)系統(tǒng),它讓我們得以一窺未來我們使用各種設(shè)備(從個人電腦到烤面包機)的方式。

借助“Mu”,用戶能夠通過日常語言來操控電腦。例如,你可以鍵入或說出“打開暗黑模式”或“讓我的鼠標指針變大”等指令,電腦便會照做。

目前,“Mu”首次出現(xiàn)在Windows 11設(shè)置應(yīng)用程序中。你只需說出或鍵入你想要更改的具體設(shè)置,這款生成式人工智能工具就能理解你的意圖并為你完成更改。

本地而非云端

更重要的是,這并非運行在云端的大型語言模型(LLM)——“Mu”是一款小型語言模型(SLM),擁有相對較少的3.3億參數(shù),專為在一種名為神經(jīng)處理單元(NPU)的專用人工智能芯片上運行而設(shè)計。

這種NPU芯片搭載于微軟、戴爾、惠普、聯(lián)想、三星和宏碁推出的最新款Copilot+個人電腦中。這些新款電腦自2024年6月開始發(fā)貨,是唯一能夠使用“Mu”以及Windows 11中其他先進人工智能功能的電腦。

總而言之,它并非基于LLM的云端聊天機器人,而是一款完全在個人電腦上運行、甚至在斷開互聯(lián)網(wǎng)連接時也能運行的小型語言模型。

由于Copilot+個人電腦配備了能夠每秒處理至少40萬億次運算的NPU,因此能夠運行“Mu”。微軟與高通、AMD和英特爾展開合作,確?!癕u”能夠在這些公司的NPU上順暢運行,而如今,NPU已成為所有Copilot+個人電腦的標準配置。

“Mu”采用一種名為“變換器編碼器-解碼器”的設(shè)計,這意味著它將工作分為兩部分。編碼器將你的語言轉(zhuǎn)化為一種壓縮形式,而解碼器則將這種形式轉(zhuǎn)化為正確的指令或答案。

與舊模型相比,這種設(shè)計在執(zhí)行諸如更改設(shè)置等任務(wù)時更為高效。“Mu”擁有32層編碼器和12層解碼器,之所以選擇這種配置,是為了契合NPU的內(nèi)存和速度限制。該模型利用旋轉(zhuǎn)位置嵌入來保持詞序,采用雙層歸一化來保持穩(wěn)定性,并運用分組查詢注意力機制來更高效地利用內(nèi)存。這些技術(shù)選擇使得“Mu”能夠每秒處理超過100個標記,并且在不到500毫秒的時間內(nèi)做出響應(yīng)。

與基于LLM的聊天機器人(如OpenAI的ChatGPT)相比,“Mu”的速度極快。

微軟在360萬個專注于Windows設(shè)置及相關(guān)任務(wù)的示例上對“Mu”進行了訓(xùn)練。訓(xùn)練在Azure平臺上進行,借助了NVIDIA A100圖形處理單元(GPU)。訓(xùn)練完成后,微軟對“Mu”進行了微調(diào),并運用量化技術(shù)縮減其內(nèi)存需求,以便其能夠在三家芯片制造商的NPU上良好運行。因此,“Mu”的體積約為微軟Phi-3.5-mini模型的十分之一,但在其設(shè)計用于執(zhí)行的任務(wù)上,性能幾乎同樣出色。

小模型而非大模型

“Mu”真正具有開創(chuàng)性,因為它是首款專為讓用戶通過自然語言控制系統(tǒng)設(shè)置而設(shè)計的小型語言模型,且完全在主流出貨設(shè)備上運行。

蘋果公司的iPhone、iPad和Mac都配備了神經(jīng)引擎NPU,并運行用于Siri和蘋果智能功能的設(shè)備端人工智能。然而,蘋果公司并沒有像“Mu”那樣深度集成于系統(tǒng)設(shè)置的小型語言模型。Siri和蘋果智能功能能夠更改一些設(shè)置,但其范圍和靈活性無法與“Mu”相提并論。

三星的Galaxy S25以及其他近期推出的旗艦手機配備了定制的NPU和Galaxy人工智能,能夠執(zhí)行各種設(shè)備控制和個人助理任務(wù)。然而,它們同樣缺乏用于全面系統(tǒng)設(shè)置控制的小型語言模型。

谷歌的Chromebook Plus設(shè)備配備了NPU,并支持設(shè)備端人工智能,但并未像“Mu”那樣使用小型語言模型來用于系統(tǒng)設(shè)置。

由于“Mu”直接在設(shè)備上處理數(shù)據(jù),因此能夠確保個人信息的隱私性,并且能夠即時做出響應(yīng)。這種轉(zhuǎn)變也使得遵守歐洲和美國等地的隱私法規(guī)變得更加容易,因為數(shù)據(jù)不會離開你的電腦。

整個行業(yè)正朝著這一方向發(fā)展,原因顯而易見。如今的小型語言模型已經(jīng)足夠強大,能夠像大型云端模型一樣出色地處理特定任務(wù)。它們的運行成本更低,能耗更少,并且可以根據(jù)特定的工作或語言進行定制。

值得注意的是,NPU并不罕見。目前,它們已經(jīng)出現(xiàn)在新款手機、平板電腦甚至家用電器中。這些芯片旨在高效且低功耗地運行神經(jīng)網(wǎng)絡(luò),使得在沒有可靠互聯(lián)網(wǎng)連接的情況下,也能在任何地方提供智能功能。

最重要的是,運行在NPU上的小型語言模型對于個人電腦、手機和平板電腦而言意義重大,甚至對于一切設(shè)備都是如此。隨著其性能和能力的提升以及成本的降低,我們可以預(yù)見,汽車儀表盤、恒溫器、洗衣機、拖拉機乃至一切設(shè)備(包括烤面包機)都將摒棄嵌套菜單式的用戶控制方式,轉(zhuǎn)而采用語音控制設(shè)置。

你將走進廚房,告訴烤面包機在大約20分鐘后將你的貝果烤得稍微焦一點,然后告訴咖啡機為你制作一杯拿鐵。早餐過后,你將走進家庭辦公室,通過與專門用于每種設(shè)備的小型語言模型交談,遠程控制各種物聯(lián)網(wǎng)設(shè)備和其他物品。

不過請注意,這些用于設(shè)備控制的小型語言模型還將直接與大型語言模型配合使用,以獲取信息并執(zhí)行其他操作,比如編寫代碼、構(gòu)建網(wǎng)站和應(yīng)用程序以及促進你所有的商務(wù)溝通。

聲明:該篇文章為本站原創(chuàng),未經(jīng)授權(quán)不予轉(zhuǎn)載,侵權(quán)必究。
換一批
延伸閱讀

LED驅(qū)動電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。

關(guān)鍵字: 驅(qū)動電源

在工業(yè)自動化蓬勃發(fā)展的當(dāng)下,工業(yè)電機作為核心動力設(shè)備,其驅(qū)動電源的性能直接關(guān)系到整個系統(tǒng)的穩(wěn)定性和可靠性。其中,反電動勢抑制與過流保護是驅(qū)動電源設(shè)計中至關(guān)重要的兩個環(huán)節(jié),集成化方案的設(shè)計成為提升電機驅(qū)動性能的關(guān)鍵。

關(guān)鍵字: 工業(yè)電機 驅(qū)動電源

LED 驅(qū)動電源作為 LED 照明系統(tǒng)的 “心臟”,其穩(wěn)定性直接決定了整個照明設(shè)備的使用壽命。然而,在實際應(yīng)用中,LED 驅(qū)動電源易損壞的問題卻十分常見,不僅增加了維護成本,還影響了用戶體驗。要解決這一問題,需從設(shè)計、生...

關(guān)鍵字: 驅(qū)動電源 照明系統(tǒng) 散熱

根據(jù)LED驅(qū)動電源的公式,電感內(nèi)電流波動大小和電感值成反比,輸出紋波和輸出電容值成反比。所以加大電感值和輸出電容值可以減小紋波。

關(guān)鍵字: LED 設(shè)計 驅(qū)動電源

電動汽車(EV)作為新能源汽車的重要代表,正逐漸成為全球汽車產(chǎn)業(yè)的重要發(fā)展方向。電動汽車的核心技術(shù)之一是電機驅(qū)動控制系統(tǒng),而絕緣柵雙極型晶體管(IGBT)作為電機驅(qū)動系統(tǒng)中的關(guān)鍵元件,其性能直接影響到電動汽車的動力性能和...

關(guān)鍵字: 電動汽車 新能源 驅(qū)動電源

在現(xiàn)代城市建設(shè)中,街道及停車場照明作為基礎(chǔ)設(shè)施的重要組成部分,其質(zhì)量和效率直接關(guān)系到城市的公共安全、居民生活質(zhì)量和能源利用效率。隨著科技的進步,高亮度白光發(fā)光二極管(LED)因其獨特的優(yōu)勢逐漸取代傳統(tǒng)光源,成為大功率區(qū)域...

關(guān)鍵字: 發(fā)光二極管 驅(qū)動電源 LED

LED通用照明設(shè)計工程師會遇到許多挑戰(zhàn),如功率密度、功率因數(shù)校正(PFC)、空間受限和可靠性等。

關(guān)鍵字: LED 驅(qū)動電源 功率因數(shù)校正

在LED照明技術(shù)日益普及的今天,LED驅(qū)動電源的電磁干擾(EMI)問題成為了一個不可忽視的挑戰(zhàn)。電磁干擾不僅會影響LED燈具的正常工作,還可能對周圍電子設(shè)備造成不利影響,甚至引發(fā)系統(tǒng)故障。因此,采取有效的硬件措施來解決L...

關(guān)鍵字: LED照明技術(shù) 電磁干擾 驅(qū)動電源

開關(guān)電源具有效率高的特性,而且開關(guān)電源的變壓器體積比串聯(lián)穩(wěn)壓型電源的要小得多,電源電路比較整潔,整機重量也有所下降,所以,現(xiàn)在的LED驅(qū)動電源

關(guān)鍵字: LED 驅(qū)動電源 開關(guān)電源

LED驅(qū)動電源是把電源供應(yīng)轉(zhuǎn)換為特定的電壓電流以驅(qū)動LED發(fā)光的電壓轉(zhuǎn)換器,通常情況下:LED驅(qū)動電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。

關(guān)鍵字: LED 隧道燈 驅(qū)動電源
關(guān)閉