急劇增長的數據量在改變人類生活方式的同時，也在深刻影響著技術走勢。高速接口、5G拓寬了系統(tǒng)之間的數據通道，但系統(tǒng)內部互連，特別是芯片內部互連，也需要創(chuàng)新的方式來實現更高帶寬。像自動駕駛這樣的應用，不僅需要高帶寬，還要保證信息傳遞的實時性與有效性，即要保證極佳的信息服務質量（QoS），“自動駕駛商用化，是人類第一次把身家性命大規(guī)模交給半導體來決斷，芯片內部互連將至關重要，設計師需要保證信號回路沒有任何阻斷，延遲滿足系統(tǒng)要求?！?

NetSpeed Systems（以下簡稱NetSpeed）大中華區(qū)銷售總監(jiān)黃啓弘對TechSugar表示。

將互聯網技術搬到芯片內部去

支持高水平自動駕駛功能的芯片均異常復雜，以Nvidia（英偉達）為例，其首款自動駕駛片上系統(tǒng)（SoC）Xavier集成了一個特別定制的8核CPU、一個512核Volta GPU、一個全新深度學習加速器、全新計算機視覺加速器、以及全新8K HDR視頻處理器，該芯片共集成超90億個晶體管，Nvidia投入2000多名工程師在這個項目上，總研發(fā)時間超過4年，總研發(fā)費用高達20億美元。

20億美元8000個工程年，是不是自動駕駛芯片都這樣高不可攀？當然不是，Mobileye、特斯拉以及中國的地平線機器人等公司，都在發(fā)展自動駕駛用SoC芯片，根據各自對自動駕駛的理解，系統(tǒng)復雜度會有較大區(qū)別，再利用成熟的IP與工具，研發(fā)成本與時間預算與Xavier相比可能會有數量級的差異。

以特斯拉的自動駕駛芯片為例，據黃啟弘介紹，從設計到流片只花了不到一年時間，NetSpeed相關解決方案力助特斯拉縮短研發(fā)周期，快速完成設計迭代。

當一顆芯片集成數百甚至上千個運算單元時，內部互連如何實現成為架構工程師與設計工程師面臨的最嚴峻考驗之一，傳統(tǒng)總線架構已經變成系統(tǒng)性能的主要瓶頸?？偩€架構適合簡單架構，但如果單芯片集成處理器核數越多，需要連接互通的模塊越多，總線架構在性能、功耗、全局時鐘同步、信號完整性及可靠性等方面面臨的挑戰(zhàn)將呈指數型增長。

NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘

“能否不要用總線理論，把所有數據用橋接模塊分成數據包，用互聯網的方法分發(fā)出去，”黃啓弘將這種片上網絡（NoC）理念形象地比喻成在芯片上布一個互聯網。

片上網絡采用數據路由和分組交換技術替代傳統(tǒng)總線結構，從體系結構上解決了傳統(tǒng)總線結構由于地址空間有限導致的可擴展性差，分時通訊引起的通訊效率低下，以及全局時鐘同步引起的功耗和面積較大等問題。

與傳統(tǒng)的總線互連技術相比，NetSpeed的解決方案解除了總線架構帶來的數據吞吐量限制，片內帶寬可支持到萬億字節(jié)每秒（TB/s），接口位寬高達1024位 ，并可定制更高位寬?？偩€結構需要針對不同的系統(tǒng)需求單獨進行設計，當系統(tǒng)功能擴展時，需要對現有設計方案重新設計，研發(fā)成本與設計周期均比較長，NetSpeed的解決方案采用分層堆疊方式將網絡架構解耦，具有良好的可擴展性。當SoC片內網絡中節(jié)點數量增加時，僅需要按照相應拓撲結構規(guī)則繼續(xù)增大網絡規(guī)模即可，縮短了產品的設計周期，節(jié)約了研發(fā)成本。另外，傳統(tǒng)總線架構，每次信息交互都需要驅動全局互連線，因此總線結構所消耗的功耗將隨SoC規(guī)模增加而顯著增加，而NetSpeed方案中，可以將一部分信號通路關掉，從而實現低功耗。

為什么是NetSpeed？

NetSpeed成立于2011年，到現在規(guī)模并不大，在半導體行業(yè)資歷頗深的黃啓弘為何要選擇加入NetSpeed？用他自己的話來說，就是NetSpeed顯示了增長的潛力，過去幾年營業(yè)額都是100%以上的速度增長，也具備了成功的要素，“一家初創(chuàng)企業(yè)能否成功，主要看兩點，第一是高管團隊，第二是時機，能否在合適的時間，為市場上一個普遍難解的問題，提出合適的解決方案。”

NetSpeed核心技術團隊來自思科與華為，這是他們能夠將宏觀世界的網絡拓撲思想映射到芯片內部的基礎。而人工智能應用爆發(fā)帶來的數據洪流，讓SoC的計算單元數量暴漲，對SoC內部帶寬需求急劇增加，這正是黃啓弘所說的時機，在這個時間點上，NetSpeed解決方案為眾多專注人工智能芯片設計的公司所重視，NetSpeed首席執(zhí)行官Sundari Mitra表示：“這些新SoC內部體現出的是一種新的數據流，一般來說，想實現快速有效的點對點數據交換，就需要大量的計算單元。傳統(tǒng)架構運行方式不同，采用中央存儲作為數據交換系統(tǒng)。而人工智能系統(tǒng)需要任意位置數據交換，這可以通過廣泛的接口而實現，并需要支持長突發(fā)傳輸。Orion AI的一個關鍵優(yōu)勢就是能夠支持多重多播請求，并支持非阻塞傳輸?！?

Orion AI由NetSpeed的圖靈機器學習引擎提供支持，該引擎使用監(jiān)督學習來探索和優(yōu)化SoC設計與架構，為優(yōu)化對自動駕駛應用的支持，Orion AI通過了ISO 26262標準，可支持ASIL D級別安全要求。

除了這次發(fā)布的Orion AI，NetSpeed還提供其他互連和高速緩存IP，以及設計開發(fā)工具NoCStudio。利用NoCStudio，SoC 開發(fā)人員可快速、高效、可靠地生成高度定制化的解決方案，NoCStudio輸出的模塊具有無死鎖、緩存一致性以及確保服務質量的特性。

下一步計劃

人工智能應用在中美都是熱點，在NetSpeed列出的四家重要客戶中，有三家是中國公司。除了自動駕駛，在云計算、AR、VR等方面NetSpeed都有布局，NetSpeed也在與手機芯片公司展開合作。

“到了5G之后，數據量非常大，數據交換的負擔非常繁重。在NetSpeed看來，這也是在一個合適的時間點，進入一個合適的市場，因為下一代手機芯片的設計復雜度，一定是數量級上的飛躍，在這種情況下，工程師可能必須利用人工智能的方法，才能把設計做出來，在這方面，NetSpeed有優(yōu)勢?！?

除了拓展中國市場及團隊，黃啓弘表示，NetSpeed還在開發(fā)芯片間互連技術，以及進一步提升現有產品的性能，他最后強調，IP公司必須要以技術為本，NetSpeed成立8年以來，已經申請了130多項專利，技術實力逐漸得到了用戶的認可，“作為一家正在成長的IP公司，技術要有足夠的優(yōu)勢，最重要是得到用戶認可?！?