熱點新聞網 彙聚海量國內、國際熱點新聞

機器學習性能提升480倍!Arm推最新Cortex-M處理器,搭首款microNPU

2020-02-12已圍觀 次來源:互聯網編輯:熱點新聞網

芯東西(公衆號:aichip001)

編 | 韋世玮

芯東西2月11日消息,今天,Arm推出其人工智能(AI)平台重要新品,包括全新機器學習IP Cortex-M55處理器,以及Ethos-U55神經網絡處理器。

其中,Ethos-U55是Arm針對Cortex-M系列處理器推出的首款微神經網絡處理器(microNPU),與Cortex-M系列處理器相配合,能進一步提升機器學習性能與能效。

Arm稱,Cortex-M55與Ethos-U55的結合使用,能夠爲微控制器帶來480倍的機器學習性能飛躍。

隨著機器學習應用在各個行業中愈發普及,在Arm看來,終端AI市場也將在未來幾年內呈現爆炸性增長,終端智能設備市場將進一步發展。

因此,Arm通過推出全新IP內核與NPU,在擴展自身AI産品組合的同時,也幫助客戶降低芯片開發成本,滿足他們提升終端數字信號處理(DSP)和機器學習能力的需求。

一、Cortex-M55:擁有自定義指令集和矢量擴展

Arm聲稱,此次推出的Cortex-M55是其有史以來AI功能最強大的Cortex-M處理器,同時也是首款基于Armv8.1-M架構、內建Arm Helium向量處理技術的處理器。

與前幾代Cortex-M系列處理器相比,Cortex-M55的機器學習性能最高可提升15倍,DSP性能可提升5倍,能耗比進一步提高。

除此之外,Cortex-M55還支持自定義指令集(Custom Instructions)。在去年的Arm Techcon技術大會上,Arm首次宣布自定義指令集,並與Cortex-M33一起推出。

實際上,這一功能與RISC-V IP內核提供的功能相類似,目的是在密集執行的內核中,將緊湊的指令序列折疊爲一條指令,節省功耗和吞吐量。

從傳統方式上看,用戶要實現這一功能,可以通過內存映射設備來實現,而Arm現在已經可以通過使用協處理器接口,將操作更緊密地與CPU集成在一起。

這就意味著,用戶能通過Cortex-M55的自定義指令集延伸處理器能力,對特定工作負載進行優化。

除了自定義指令集外,Cortex-M55還有另一大創新點,它在內核中首次構建了Helium向量處理技術。

Helium,也稱爲M-Profile Vector Extension(MVE),它能在Arm TrustZone的安全基礎上提高Armv8.1-M架構的計算性能。它還引入新的單指令多數據流(SIMD)128位矢量操作,進一步增強DSP和機器學習應用的性能。

在性能方面,Helium能將Cortex-M55的數字信號處理器性能提升5倍,機器學習性能提升15倍。

此外,它還依賴現有的寄存器(非NEON矢量寄存器),並引入對通道(lane)預測、循環(loop)預測、分散/聚集(scatter-gather)等複雜操作的支持。

二、Ethos-U55:簡化設計NPU

如果想擁有更高的機器學習系統,用戶可以將Cortex-M55Ethos-U55搭配使用。

Ethos-U55是Arm的首款微神經處理器,與現有的Cortex-M系列處理器相比,Cortex-M55Ethos-U55的結合能讓産品的機器學習性能提升480倍。

性能方面,Ethos-U55擁有高度的可配置性,能加速空間受限的嵌入式與物聯網設備的機器學習推理能力。它的壓縮技術可以節省電力並縮小機器學習模型的尺寸,同時還能運行以往只能在較大型系統上執行的神經網絡運算。

實際上,Ethos-U55與其他Ethos-N系列存在一定區別。

首先,Ethos-N是獨立的IP模塊,可以放到SoC CCN-500網絡上,而Ethos-U旨在與配套的Cortex-M處理器緊密協作,並利用其處理能力。

同時,Ethos-U55還可以與較舊的Cortex-M系列處理器一起使用,如Cortex-M7、M4和M33等。

從Ethos-N系列的多層神經網絡(MLP)設計上看,它們是使用多個計算引擎實例構建的,每個實例都包含幾個主要組件,如SRAM、MAC計算引擎(MCE)和可編程層引擎(PLE)。

但對Ethos-U55來說,由于功率和面積限制,它的設計相對簡單,因此Arm將其稱爲microNPU。

從概念上講,Ethos-U55只是一個具有計算引擎的MLP,而從設計上看,Ethos-U55在設計過程中刪除了PLE。

主要原因在于,Ethos-N系列的PLE將Cortex-M CPU和16通道的矢量引擎集成在一起,導致面積和功耗都相當昂貴,但這對高性能SoC來說還處于可接受的範圍。

而Ethos-U55通過與Cortex-M55等CPU相結合,能夠讓用戶擺脫PLE,改爲在配套的Cortex-M處理器上進行處理。

雖然這並非一個完整的代替品,但基于嚴格的功率和面積限制考慮,這不失爲一個在可接受範圍內的折中方案。

此外,Ethos-U55還刪除了較爲昂貴的專用SRAM庫,因爲它只需要很小的SRAM就可以進行足夠的內部處理。

Ethos-U55假定外部系統具有某種緩存,可與Cortex-M處理器共享,仍然能完成MLP設計的其他工作。例如,讓直接內存存取(DMA)根據需要獲取NN層,此外NPU還可以處理內存中的壓縮權重和激活工作,在處理之前即時進行解碼。

三、M55與U55結合的最高推理性能可提升50倍

Arm聲稱,與Cortex-M7相比,基于Helium擴展的Cortex-M55,其對典型語音助手類的工作負載推理性能最高可提升6倍,能效可提升7倍。與Ethos-U55結合使用時,這兩項性能可分別提高50倍和25倍。

值得一提的是,這些性能要實現提升,必須重新編譯代碼,以充分利用新的M-Profile向量擴展,以及Ethos MAC引擎的處理能力。

據了解,Cortex-M系列可用于各種芯片和多種工藝技術。

基于此,Arm表示,在55nm或40nm等成熟的節點上,他們希望能看到Ethos-U55的時鍾頻率可達到100 MHz至400MHz,甚至更高。

爲了更好地調整NPU到應用程序,用戶可以將MAC計算引擎(Compute Engine)配置爲32、64、128或256個MAC。

在32個MAC的最小配置下,用戶可以獲得6.4-25.6 GOPS的峰值計算性能,而在256 MAC的最大配置下可達到51.2-205 GOPS。

在7nm或5nm這類先進制程節點上,Ethos-U55的時鍾頻率可達到1 GHz或更高。在這一階段,128個MAC和256個MAC配置的峰值計算性能,分別爲0.25 TOPS和0.5 TOPS。

四、主要仁鼎彩票大小计划夥伴已獲授權應用

目前,Arm已經向主要仁鼎彩票大小计划夥伴開放了Cortex-M55和Ethos-U55的授權,並將在未來幾個月內進一步開放,基于此IP的芯片預計在2021年年初上市並實際投入使用。

在應用方面,Cortex-M55能夠廣泛地應用于移動設備終端。例如,在智能手機的語音助理、指紋傳感器和RF系統中,它能進一步實現這些工作負載的優化。

據了解,已經獲得Cortex-M55和Ethos-U55授權的公司有谷歌、恩智浦、意法半導體、賽普拉斯和恒玄科技等。

其中, Google微控制器用TensorFlow Lite部門産品經理Ian Nappier談到,Arm的這一全新IP進一步推進了在終端設備上實現機器學習,並達成數十億個具備TensorFlow功能設備的共同願景。

而這些設備僅依靠電池就能運行神經網絡模型,並長達數年之久,還可直接在終端設備上實現低遲延的推論。

另外, 意法半導體微控制器部門總經理Ricardo De Sa Earp也說到,全新的Arm Cortex-M55能夠爲意法半導體的下一代微控制器,帶來所需的機器學習性能與效率提升,從而進一步提升各項AI應用。

結語:爲AI終端市場打開創新突破口

作爲半導體領域重要的IP架構供應商,長期以來,Arm架構一直占領著移動設備領域指令集架構的重要地位。

對Arm自身而言,隨著AI和機器學習等技術的不斷成熟和發展,它也持續研發出新的IP架構、完善各類AI産品組合,以滿足市場越來越多的AI需求,而此次Cortex-M55和Ethos-U55的推出,也進一步爲現在的AI終端市場撕開了又一創新方向。

移動設備領域IP架構的市場競爭仍十分激烈,架構開源、高性價比等需求也愈發鮮明。未來,Arm將如何依靠自身的豐富經驗和優勢,在衆多對手的市場競爭中脫穎而出?我們拭目以待。

文章來源:WikiChip

分享到0
  • 點擊排行
  • 華爲 P30 系列售價曝光,似乎比三星 Galaxy S10+ 還要貴
  • 努比亞倪飛:紅魔3電池容量“五字頭”!
  • 還記得vivo的升降攝像頭麽?它更新了!
  • 有5G版本 OPPO Reno手機通過藍牙認證
  • iOS 12.2 beta 6暗示AirPower可能很快發布
  • 4英寸屏不夠看,小米小愛觸屏音箱體驗 | 钛極客
  • 零食吃出螺絲釘!吳亦凡代言的零食巨頭,一年賣出60億又如何?
  • 2019年A股旅企做了啥之華天酒店
  • Pernod cut profit growth forecast due to epidemic
  • 老虎環球Q4增持拼多多(PDD.US),減持奈飛(NFLX.US)等明星股
  • 江門工行成功發放首筆500萬“抗疫貸”
  • 瑞銀據稱開始尋找CEO Sergio Ermotti的接班人選
  • 高瓴資本四季度美股持倉出爐:重倉互聯網加碼新經濟
  • 兩年近20支球隊相繼退出,資本“寒潮”侵襲中甲中乙
  • 車企複工複産,對提振中小企業信心很重要
  • 彙源果汁創始人朱新禮蹊跷辭任職務 疑爲轉到幕後
  • 1迫不及待要秀長腿,這兩件西裝助你一臂之力
  • 2關曉彤這是要參加鄉村彙演?求求你換個造型師吧!
  • 3古力娜紮終于遇到對手了!生圖被李沁秒殺,顔值果然拼不過氣質
  • 4Nike SB x AJ1 | Supreme x Stone Island上身參考 | 手動制作Yeezy x Kaws
  • 5初春如何選擇闊腿褲?這3種材質上身舒適,25種穿搭示範給你靈感
  • 6劉嘉玲真不好惹!和35歲譚卓同穿一件花朵裙,除了年齡什麽都沒輸
  • 7穎兒終于換對發型,燙“泰迪卷”搭白裙美翻了,付辛博真會選老婆
  • 8歐陽娜娜終于穿起絲襪,亮黃裙搭黑絲襪清新又性感,簡直美到犯規
  • 9潮流板報 | 氣溫已經飙升到20°+,你還有什麽理由不買春裝?
  • 1049歲蔣雯麗終于老了?容顔老去風骨猶在,老氣黑大衣也蓋不住韻味
X-POWER-BY FNC V1.0.0 FROM 自制56