選擇AI處理器離不開的“三項原則”
發布時間:2019-12-19 責任編輯:lina
【導讀】移動設備上的人工智能已經不再依賴於雲端連接,今年 CES 最熱門的產品演示和最近宣布的旗艦智能手機都論證了這一觀點。人工智能已經進入終端設備,並且迅速成為一個市場賣點。
移動設備上的人工智能已經不再依賴於雲端連接,今年 CES 最熱門的產品演示和最近宣布的旗艦智能手機都論證了這一觀點。人工智能已經進入終端設備,並且迅速成為一個市場賣點。包括安全、隱(yin)私(si)和(he)響(xiang)應(ying)時(shi)間(jian)在(zai)內(nei)的(de)這(zhe)些(xie)因(yin)素(su),使(shi)得(de)該(gai)趨(qu)勢(shi)必(bi)將(jiang)繼(ji)續(xu)擴(kuo)大(da)到(dao)更(geng)多(duo)的(de)終(zhong)端(duan)設(she)備(bei)上(shang)。為(wei)了(le)滿(man)足(zu)需(xu)求(qiu),幾(ji)乎(hu)每(mei)個(ge)芯(xin)片(pian)行(xing)業(ye)的(de)玩(wan)家(jia)都(dou)推(tui)出(chu)了(le)不(bu)同(tong)版(ban)本(ben)、不同命名的人工智能處理器,像“深度學習引擎”、“神經處理器”、“人工智能引擎”等等。
shuoqirengongzhinenghaoxiangwomenxiangdaodeshijiqishijiao,zhiwenshibie,renlianshibie,shiwangmoshibie,hongmoshibie,zhangwenshibie,zidongguihua,zhinengsousuo,boyi,zidongchengxusheji,zhinengkongzhideng;然而其核心內容是離不開嵌入式的。
然(ran)而(er),並(bing)非(fei)所(suo)有(you)的(de)人(ren)工(gong)智(zhi)能(neng)處(chu)理(li)器(qi)都(dou)是(shi)一(yi)樣(yang)的(de)。現(xian)實(shi)是(shi),許(xu)多(duo)所(suo)謂(wei)的(de)人(ren)工(gong)智(zhi)能(neng)引(yin)擎(qing)就(jiu)是(shi)傳(chuan)統(tong)的(de)嵌(qian)入(ru)式(shi)處(chu)理(li)器(qi)加(jia)上(shang)一(yi)個(ge)矢(shi)量(liang)向(xiang)量(liang)處(chu)理(li)單(dan)元(yuan)。這(zhe)裏(li)還(hai)有(you)一(yi)些(xie)其(qi)它(ta)功(gong)能(neng)對(dui)於(yu)人(ren)工(gong)智(zhi)能(neng)處(chu)理(li)前(qian)端(duan)化(hua)至(zhi)關(guan)重(zhong)要(yao)。
優化嵌入式係統的工作負載
zaiyunjisuanchuliguochengzhong,caiyongfudianjisuanjinxingxunlian,dingdianjisuanjinxingtuili,congershixianzuidadezhunquexing。yongdaxingfuwuqiqunzujinxingshujuchuli,nenghaohedaxiaobixukaolv,dantamenxiangjiaoyuyoubianyuanyueshudechulijihushiwuxiande。
在移動設備上,功耗、性能和麵積(PPA)的可行性設計至關重要。因此在嵌入式 SoC 芯片上,優先采用更有效的定點計算。

當(dang)將(jiang)網(wang)絡(luo)從(cong)浮(fu)點(dian)轉(zhuan)換(huan)為(wei)定(ding)點(dian)時(shi),會(hui)不(bu)可(ke)避(bi)免(mian)地(di)損(sun)失(shi)掉(diao)一(yi)些(xie)精(jing)度(du)。然(ran)而(er)正(zheng)確(que)的(de)設(she)計(ji)可(ke)以(yi)優(you)化(hua)精(jing)度(du)損(sun)失(shi),從(cong)而(er)達(da)到(dao)與(yu)原(yuan)始(shi)訓(xun)練(lian)網(wang)絡(luo)幾(ji)乎(hu)相(xiang)同(tong)的(de)結(jie)果(guo)。
控製精度的方法之一是在 8 位和 16 位整數精度之間做出選擇。雖然 8 位精度可以節省帶寬和計算資源,但是許多商用的神經網絡仍然需要采用 16 位精度以保證準確性。
神經網絡的每一層都有不同的約束和冗餘,因此為每一層選擇更高的精度是至關重要的。
針對開發人員和 SoC 設計者,一個工具可以自動輸出優化的圖形編譯器和可執行文件,例如 CEVA 網絡生成器,從上市時間的角度來看是一個巨大的優勢。
此外,保持為每一層選擇更高精度(8 位或 16 位)的靈活性也是很重要的。這使每一層都可以在優化精度和性能之間進行權衡,然後一鍵生成高效和精確的嵌入式網絡推理。

專用硬件來處理真正的人工智能算法
VPU shiyonglinghuo,danxuduochangjiandeshenjingwangluoxuyaodedaliangdaikuantongdaoduibiaozhunchuliqizhilingjitichuletiaozhan。yinci,bixuyouzhuanmendeyingjianlaichulizhexiefuzadejisuan。
例如 NeuPro AI 處理器包括專用的引擎處理矩陣乘法、完全連接層、激活層和彙聚層。這種先進的專用 AI 引擎結合完全可編程工作的 NeuPro VPU,可以支持所有其它層類型和神經網絡拓撲。
這些模塊之間的直接連接允許數據無縫交換,不再需要寫入內存。此外,優化的 DDR 帶寬和先進的 DMA 控製器采用動態流水線處理,可以進一步提高速度,同時降低功耗。

明天未知的人工智能算法
人工智能仍然是一個新興且快速發展的領域。神經網絡的應用場景快速增加,例如目標識別、語音和聲音分析、5G 通信等。保持一種適應性的解決方案,滿足未來趨勢是確保芯片設計成功唯一途徑。
因yin此ci,滿man足zu現xian有you算suan法fa的de專zhuan用yong硬ying件jian肯ken定ding是shi不bu夠gou的de,還hai必bi須xu搭da配pei一yi個ge完wan全quan可ke編bian程cheng的de平ping台tai。在zai算suan法fa一yi直zhi不bu斷duan改gai進jin的de情qing況kuang下xia,計ji算suan機ji模mo擬ni仿fang真zhen是shi基ji於yu實shi際ji結jie果guo進jin行xing決jue策ce的de關guan鍵jian工gong具ju,並bing且qie減jian少shao了le上shang市shi時shi間jian。
CDNN PC 仿真包允許 SoC 設計人員在開發真實硬件之前,就可以使用 PC 環境權衡自己的設計。

另一個滿足未來需求的寶貴特征是可擴展性。NeuPro AI 產品家族可以應用於廣泛的目標市場,從輕量型的物聯網和可穿戴設備(2 TOPs)到高性能的行業監控和自動駕駛應用(12.5 TOPs)。
在移動端實現旗艦 AI 處理器的競賽已經開始。 許多人快速趕上了這一趨勢,使用人工智能作為自己產品的賣點,但並不是所有產品裏都具備相同的智能水平。
如果想要創建一個在不斷發展的人工智能領域保持“聰明”的智能設備,應該確保在選擇 AI 處理器時,檢查上述提到的所有特性。
特別推薦
- 噪聲中提取真值!瑞盟科技推出MSA2240電流檢測芯片賦能多元高端測量場景
- 10MHz高頻運行!氮矽科技發布集成驅動GaN芯片,助力電源能效再攀新高
- 失真度僅0.002%!力芯微推出超低內阻、超低失真4PST模擬開關
- 一“芯”雙電!聖邦微電子發布雙輸出電源芯片,簡化AFE與音頻設計
- 一機適配萬端:金升陽推出1200W可編程電源,賦能高端裝備製造
技術文章更多>>
- 一秒檢測,成本降至萬分之一,光引科技把幾十萬的台式光譜儀“搬”到了手腕上
- AI服務器電源機櫃Power Rack HVDC MW級測試方案
- 突破工藝邊界,奎芯科技LPDDR5X IP矽驗證通過,速率達9600Mbps
- 通過直接、準確、自動測量超低範圍的氯殘留來推動反滲透膜保護
- 從技術研發到規模量產:恩智浦第三代成像雷達平台,賦能下一代自動駕駛!
技術白皮書下載更多>>
- 車規與基於V2X的車輛協同主動避撞技術展望
- 數字隔離助力新能源汽車安全隔離的新挑戰
- 汽車模塊拋負載的解決方案
- 車用連接器的安全創新應用
- Melexis Actuators Business Unit
- Position / Current Sensors - Triaxis Hall
熱門搜索




