存儲新時代:利用RISC-V和內存結構實現開放式計算
發布時間:2018-07-10 責任編輯:lina
【導讀】在過去的幾年裏,我們目睹了數據的一係列巨大變化,包括數據如何被生成、處理以及進一步利用以獲取額外的價值和智能,而這些變化都受到以深度學習和神經網絡應用為基礎的新興計算模式所影響。
前言
在過去的幾年裏,我們目睹了數據的一係列巨大變化,包括數據如何被生成、chuliyijijinyibuliyongyihuoquewaidejiazhihezhineng,erzhexiebianhuadoushoudaoyishenduxuexiheshenjingwangluoyingyongweijichudexinxingjisuanmoshisuoyingxiang。zhezhongshenkedebianhuashiyushujuzhongxin,qiliyongshenduxuexijishulaitigongduihailiangshujudedongcha,zhuyaoyongyufenleihuoshibietuxiang、支持自然語言處理或語音處理,或者理解、生成或成功學習如何玩複雜的策略遊戲。這種變化催生了一批專門針對這些類別的問題而設計的高功效計算設備(基於GP-GPU和FPGA),後來還產生了可完全定製的ASIC,進一步加速並提高了基於深度學習的係統的計算能力。
大數據和快速數據
大數據應用采用專門的GP-GPU、FPGA和ASIC處理器透過深度學習技術來分析大型數據集,並揭示趨勢、模式和關聯性,從而實現圖像識別、語音識別等功能。因此,大數據是基於過去的信息或常駐在雲端的靜止數據。大數據分析的一個常用的功能是執行特定任務“訓練過的”神經網絡,例如識別和標記圖像或視頻序列中的所有麵部,語音識別也展示了神經網絡的強大功能。
這種任務最好由專門的引擎(或推理引擎)來執行,這種引擎直接駐留在邊緣設備上並由快速數據應用程序(圖1)來引導。通過在邊緣設備上處理本地所捕獲的數據,快速數據能夠利用來自大數據的算法提供實時決策和結果。大數據提供了從“過去發生了什麼”到“將來可能會發生什麼”所演繹出的洞察(預測分析),而快速數據則提供了能夠改善業務決策、運營並減少低效情形的實時行動,所以這一定會影響最終結果。這些方法可以適用於各種邊緣和存儲設備,例如照相機、智能手機和固態硬盤。
在數據上進行計算
新的工作負載基於兩種場景:(1)針對特定工作負載(例如圖像或語音識別)訓練大型神經網絡;以及(2)在邊緣設備上應用經過訓練的(或“適合的”)神(shen)經(jing)網(wang)絡(luo)。兩(liang)種(zhong)工(gong)作(zuo)負(fu)載(zai)都(dou)需(xu)要(yao)大(da)規(gui)模(mo)並(bing)行(xing)的(de)數(shu)據(ju)處(chu)理(li),其(qi)中(zhong)包(bao)括(kuo)大(da)矩(ju)陣(zhen)的(de)乘(cheng)法(fa)和(he)卷(juan)積(ji)。這(zhe)些(xie)計(ji)算(suan)功(gong)能(neng)的(de)最(zui)佳(jia)實(shi)施(shi)方(fang)式(shi)需(xu)要(yao)在(zai)大(da)矢(shi)量(liang)或(huo)數(shu)據(ju)陣(zhen)列(lie)上(shang)運(yun)行(xing)的(de)矢(shi)量(liang)指(zhi)令(ling)。RISC-V就(jiu)是(shi)一(yi)種(zhong)非(fei)常(chang)適(shi)合(he)於(yu)此(ci)類(lei)型(xing)應(ying)用(yong)的(de)架(jia)構(gou)和(he)生(sheng)態(tai)係(xi)統(tong),因(yin)為(wei)它(ta)提(ti)供(gong)了(le)一(yi)套(tao)由(you)開(kai)源(yuan)軟(ruan)件(jian)支(zhi)持(chi)的(de)標(biao)準(zhun)化(hua)過(guo)程(cheng),使(shi)得(de)開(kai)發(fa)人(ren)員(yuan)能(neng)夠(gou)完(wan)全(quan)自(zi)由(you)地(di)采(cai)用(yong)、修改甚至添加專有矢量指令。圖1中概述了一些顯而易見的RISC-V計算架構機會。
移動數據
快速數據和邊緣計算的出現產生了一個實際的後果,即:yuyunduanzhijianlaihuiyidongsuoyoushujujinxingjisuanfenxibingbushiyijianyouxiaolvdeshi。shouxian,zaiyidongwangluoheyitaiwangzhongjinxingyuanjulichuanshushi,tashejidaoxiangduijiaodadeshujuyanchichuanshu,zheduiyubixushishicaozuodetuxiangshibiehuoyuyinshibieyingyongeryanbingbushilixiangde。qici,zaibianyuanshebeishangjinxingjisuanxuyaogengyiyushensuodejiagou,qizhong,tuxiangheyuyinchulihuozhezaiSSDshangjinxingdeneicunjisuancaozuodoukeyongyizhongshensuodefangshilaijinxing。caiyongzhezhongfangshi,meiyitaixinzengdebianyuanshebeidouhuidailaisuoxuyaodezengliangjisuannengli,duishujuyidongfangshiheshijianjinxingyouhuashizhezhongjiagoukeshensuoxingdeyixiangguanjianyinsu。

圖1:大數據、快速數據和RISC-V機會
在圖1a中,雲數據中心服務器利用在大型大數據集上訓練的深度學習神經網絡來執行機器學習的功能。在圖1b中,邊緣設備中的安全攝像機采用經過大數據訓練的推理引擎來實時識別圖像(快速數據)。在圖1c中,智能固態硬盤設備采用推理引擎進行數據識別和分類,從而有效地利用了此設備的帶寬。圖1展示了RISC-V內核的潛在機會,它可以自由地添加專有的及未來標準化的矢量指令,這些指令對於處理深度學習和推理技術相當有效。
另一個類似且重要的趨勢是大數據端和雲端上數據的移動及訪問方式(圖2)。傳統的計算機體係結構(圖2a)采用慢速外圍總線,該總線連接到許多其他設備(例如,專用機器學習加速器、圖形卡、高速固態硬盤、智能網絡控製器,等等)。低速總線會影響設備的利用率,因為它限製了總線本身、主CPU以及主要的潛在持久內存之間的通信能力。這些新型計算設備也不可能在它們之間或與主CPU共享內存,從而導致在慢速總線上進行徒勞且受限製的數據移動。
關於如何改善不同計算設備(例如CPU和計算機及網絡加速器)zhijiandeshujuyidong,yijiruhezaineicunhuokuaisucunchuzhongfangwenshuju,chuxianlejigezhongyaodexingyequshi。zhexiexinqushijizhongzaikaifangbiaozhunhuagongzuoshang,nenggoutigonggengkuai、更低延遲的串行結構以及更智能的邏輯協議,從而實現對共享內存的一致訪問。
新一代以數據為中心的計算
未來的架構將需要部署開放接口,以連接到持久性內存以及接入計算加速器並支持高速緩存一致性的快速總線(例如TileLink、RapidIO®、OpenCAPI™和Gen-Z),以期大幅度提高性能,而且使所有設備共享內存並減少不必要的數據移動。

圖2:計算體係結構中的數據移動和訪問
在圖2a中,傳統的計算體係結構由於把一條慢速外設總線用於快速存儲器及計算加速設備,其能力已達到其極限。在圖2bzhong,weilaidejisuantixijiegoucaiyonglekaifangjiekou,nenggouweipingtaishangsuoyoudejisuanziyuantigongtongyibingzhichigaosuhuancunyizhixingdefangwenfangshilaifangwengongxiangchijiuneicun,(這稱為以數據為中心的體係結構)。在圖2c中,所部署的設備能夠使用相同的共享內存,從而減少了不必要的數據複製。
CPU 外圍核心及網絡接口控製器的作用將成為支持數據移動的關鍵因素。CPU外圍核心組件必須支持密鑰內存和永久內存接口(例如NVDIMM-P),也必須支持駐留在CPU附近的內存。還需要實施麵向計算加速器、智能網絡和遠程持久內存的智能快速總線。這種總線上的任何設備(例如CPU、通用或專用計算加速器、網絡適配器、存儲器或內存)都可以包含其自己的計算資源並具有訪問共享內存的能力(圖2b和圖2c)。
RISC-Vjishuzhengshiyouhuashujuyidongdeguanjiantuidongyinsu,yinweitanenggouzaisuoyoudejisuanjiasuqishebeishangzhenduixindejiqixuexigongzuofuzailaizhixingshiliangzhiling。tashixianleduozhongkaiyuanCPU技術,能夠支持開放內存和智能總線接口;且實現了以數據為中心具有一致性共享內存的體係結構。
利用RISC-V解決挑戰
大數據和快速數據為未來的數據移動帶來了挑戰,也為RISC-V指令集架構(ISA)鋪平了道路。這種架構開放的、模塊化的方法非常適合用作以數據為中心的計算體係結構的基礎。它提供了以下功能:
擴展邊緣計算設備的計算資源
添加新的指令,例如用於機器學習工作負載的矢量指令
尋找非常接近於存儲器和內存介質的小型計算內核
支持新型計算範式以及模塊化芯片設計方法
支持新型以數據為中心的體係結構,其中所有的處理單元都可以透過一致的方式訪問共享的持久內存,從而優化數據移動
RISC-V由超過100個組織機構的眾多成員共同開發,這其中包含一個由軟件和硬件創新者組成的協作性社區。這些創新者能夠對ISA進行改編,使其適應特定的目的或項目。任何加入該組織的人都可以根據一份“Berkeley Software Distribution”(BSD軟件發布)許可證來設計、製造和/或銷售RISC-V芯片和軟件。
結語
為了實現其價值和可能性,數據需要捕獲、保存、訪(fang)問(wen)並(bing)轉(zhuan)換(huan),以(yi)發(fa)揮(hui)其(qi)全(quan)部(bu)潛(qian)力(li)。含(han)有(you)大(da)數(shu)據(ju)和(he)快(kuai)速(su)數(shu)據(ju)應(ying)用(yong)的(de)環(huan)境(jing)已(yi)經(jing)使(shi)通(tong)用(yong)計(ji)算(suan)體(ti)係(xi)結(jie)構(gou)的(de)處(chu)理(li)能(neng)力(li)相(xiang)形(xing)見(jian)絀(chu)。未(wei)來(lai)以(yi)數(shu)據(ju)為(wei)中(zhong)心(xin)的(de)極(ji)端(duan)應(ying)用(yong)將(jiang)需(xu)要(yao)針(zhen)對(dui)特(te)定(ding)用(yong)途(tu)設(she)計(ji)的(de)處(chu)理(li)能(neng)力(li),以(yi)便(bian)以(yi)開(kai)放(fang)的(de)方(fang)式(shi)支(zhi)持(chi)數(shu)據(ju)資(zi)源(yuan)的(de)獨(du)立(li)擴(kuo)展(zhan)。
擁yong有you一yi套tao以yi在zai持chi久jiu內nei存cun中zhong存cun儲chu的de數shu據ju為wei中zhong心xin的de通tong用yong開kai放fang計ji算suan機ji體ti係xi結jie構gou,同tong時shi又you能neng夠gou讓rang所suo有you的de設she備bei發fa揮hui一yi定ding的de計ji算suan作zuo用yong,這zhe是shi由you新xin類lei型xing機ji器qi學xue習xi計ji算suan工gong作zuo負fu載zai所suo推tui動dong的de這zhe些xie新xin型xing可ke擴kuo展zhan體ti係xi結jie構gou得de以yi出chu現xian的de關guan鍵jian因yin素su。跨kua越yue雲yun端duan及ji邊bian緣yuan設she備bei各ge個ge部bu分fen的de下xia一yi代dai應ying用yong都dou需xu要yao這zhe種zhong新xin型xing的de低di能neng耗hao處chu理li方fang式shi,因yin為wei專zhuan門men的de計ji算suan加jia速su處chu理li器qi將jiang能neng夠gou專zhuan注zhu於yu處chu理li其qi手shou邊bian的de任ren務wu,從cong而er能neng夠gou減jian少shao來lai回hui移yi動dong數shu據ju所suo浪lang費fei的de時shi間jian,或huo者zhe能neng夠gou執zhi行xing與yu數shu據ju無wu關guan的de額e外wai計ji算suan。通tong過guo發fa揮hui數shu據ju的de力li量liang、潛力和可能性,人類、社會以及我們的星球都能夠蓬勃發展。
RF無線射頻電路設計中的常見問題及設計原則
特別推薦
- 噪聲中提取真值!瑞盟科技推出MSA2240電流檢測芯片賦能多元高端測量場景
- 10MHz高頻運行!氮矽科技發布集成驅動GaN芯片,助力電源能效再攀新高
- 失真度僅0.002%!力芯微推出超低內阻、超低失真4PST模擬開關
- 一“芯”雙電!聖邦微電子發布雙輸出電源芯片,簡化AFE與音頻設計
- 一機適配萬端:金升陽推出1200W可編程電源,賦能高端裝備製造
技術文章更多>>
- 築基AI4S:摩爾線程全功能GPU加速中國生命科學自主生態
- 一秒檢測,成本降至萬分之一,光引科技把幾十萬的台式光譜儀“搬”到了手腕上
- AI服務器電源機櫃Power Rack HVDC MW級測試方案
- 突破工藝邊界,奎芯科技LPDDR5X IP矽驗證通過,速率達9600Mbps
- 通過直接、準確、自動測量超低範圍的氯殘留來推動反滲透膜保護
技術白皮書下載更多>>
- 車規與基於V2X的車輛協同主動避撞技術展望
- 數字隔離助力新能源汽車安全隔離的新挑戰
- 汽車模塊拋負載的解決方案
- 車用連接器的安全創新應用
- Melexis Actuators Business Unit
- Position / Current Sensors - Triaxis Hall
熱門搜索





