www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當前位置:首頁 > 芯聞號 > 美通社全球TMT
[導讀]上海2025年2月12日 /美通社/ -- 近日,國產(chǎn)大模型DeepSeek憑借其"開源開放、高效推理、端側(cè)友好"的核心優(yōu)勢,迅速風靡全球。移遠通信基于邊緣計算模組SG885G,已成功實現(xiàn)DeepSeek模型的穩(wěn)定運行,并完成了針對性微調(diào)。 目前,該模型正在...

上海2025年2月12日 /美通社/ -- 近日,國產(chǎn)大模型DeepSeek憑借其"開源開放、高效推理、端側(cè)友好"的核心優(yōu)勢,迅速風靡全球。移遠通信基于邊緣計算模組SG885G,已成功實現(xiàn)DeepSeek模型的穩(wěn)定運行,并完成了針對性微調(diào)。

目前,該模型正在多款智能終端上進行深入測試與優(yōu)化。移遠通信將憑借其卓越的工程化能力,加速端側(cè)AI技術(shù)在各行各業(yè)的規(guī)?;瘧门c普及。

移遠通信邊緣計算模組成功運行DeepSeek模型,以領(lǐng)先的工程能力加速端側(cè)AI落地


DeepSeekAI模型創(chuàng)新先鋒

DeepSeek之所以火爆全球,源于其在模型架構(gòu)、蒸餾技術(shù)以及強化學習等方面的突破性創(chuàng)新。

完整版DeepSeek-V3模型采用創(chuàng)新的MoE(混合專家)架構(gòu),擁有6,710億參數(shù),每秒可處理60個Token,擅長處理長文檔分析、多模態(tài)推理等復雜任務和高精度場景。其每層包含256個路由專家和1個共享專家,每個Token僅激活8個專家,極大地提升了學習效率和靈活性,顯著降低了訓練和推理成本,同時加速了Tokens生成。

為解決小推理模型Self-play學習的不足,DeepSeek-R1通過高效蒸餾技術(shù),將大模型的推理能力遷移到更小、更高效的版本中。這一突破使其小尺寸版本在保持卓越性能的同時,顯著降低了模型體積和計算資源需求,成為端側(cè)部署的理想選擇。

同時,DeepSeek-R1-Zero實驗性版本證明了僅通過強化學習(Reinforcement Learning,RL)、無需監(jiān)督式微調(diào),大模型也能具備強大的推理能力,為AI模型的訓練開辟了新思路。

DeepSeek小尺寸版本:端側(cè)部署的理想選擇

DeepSeek-R1版本專注于強化學習技術(shù)路線,推理能力強、性價比突出,基于該版本開發(fā)的系列小尺寸蒸餾模型,參數(shù)范圍覆蓋1.5B至70B,為開發(fā)者提供了高性能、低成本的大模型部署與開發(fā)解決方案,將有力推動端側(cè)AI的商業(yè)化應用。

簡化后的小模型從大模型中繼承了強大的AI能力,盡管參數(shù)量減少,但性能依然出色。由于計算量大幅降低,減少了內(nèi)存和計算資源的消耗,因此特別適合資源有限的端側(cè)設(shè)備。同時,推理速度顯著提升,能夠滿足端側(cè)設(shè)備對實時性的需求。此外,小模型體積更小,適配性更強,更容易在各種行業(yè)終端和邊緣計算設(shè)備上集成和運行。盡管模型壓縮,但通過蒸餾技術(shù),小模型仍能保持較高的精度,確保任務效果不受影響。

移遠通信:以領(lǐng)先的工程能力加速端側(cè)AI落地

在眾多廠商仍在探索如何支持DeepSeek模型之際,移遠通信已率先取得突破,其搭載高通QCS8550平臺的邊緣計算模組SG885G,成功實現(xiàn)了DeepSeek-R1蒸餾小模型的穩(wěn)定運行。實測數(shù)據(jù)顯示,其生成Tokens的速度超過每秒40個Tokens,且未來隨著性能的不斷優(yōu)化,速度還將進一步提升,為智能終端設(shè)備帶來更強大的AI能力。

同時,移遠通信還與行業(yè)合作伙伴緊密合作,在機器人、智能座艙、智能工業(yè)等客戶應用上開展深入測試與優(yōu)化,為用戶提供更為流暢的AI體驗。

移遠通信邊緣計算模組成功運行DeepSeek模型,以領(lǐng)先的工程能力加速端側(cè)AI落地


搭載DeepSeek模型的移遠邊緣計算模組和解決方案,不僅適用于消費類和工業(yè)類機器人領(lǐng)域,還可廣泛應用于智能座艙、機器視覺、個性化虛擬助理、平板電腦、老人監(jiān)護、智能家居、AI玩具及可穿戴設(shè)備等多元化場景,為各行業(yè)提供強大的AI賦能,例如更自然的語音交互、更精準的圖像識別以及更加個性化的服務體驗。

此外,在成功實現(xiàn)DeepSeek模型端側(cè)運行的基礎(chǔ)上,移遠通信還完成了該模型的針對性微調(diào),并應用于自身的大模型解決方案中,為客戶提供更精準、更高效的端側(cè)AI服務。這一成果不僅彰顯了移遠通信在端側(cè)AI領(lǐng)域的技術(shù)實力,更體現(xiàn)了其領(lǐng)先的工程化能力,將有力推動AIoT應用的快速發(fā)展與落地。

面向亟待接入AI能力的廣泛垂直領(lǐng)域,移遠通信將持續(xù)投入資源,推動更多高、中、入門級邊緣計算模組,以及智能座艙、5G、LTE模組和解決方案全面接入DeepSeek等先進模型以及云端大模型,助力物聯(lián)網(wǎng)設(shè)備實現(xiàn)智能化升級,開啟萬物智聯(lián)新時代。

本站聲明: 本文章由作者或相關(guān)機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務中斷的風險,如企業(yè)系統(tǒng)復雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉