首頁 云計算

鯤云科技發布全球首款數據流AI芯片CAISA 打造更高算力性價比

【TechWeb】6月23日消息,鯤云科技今天正式發布全球首款數據流AI芯片CAISA,該芯片定位于高性能AI推理,目前已完成量產。

據介紹,鯤云通過自主研發的數據流技術在芯片實測算力上實現了技術突破,較同類產品在芯片利用率上提升了11.6倍。第三方測試數據顯示僅用1/3的峰值算力,CAISA芯片可以實現英偉達同類產品最高3.91倍的實測性能。

鯤云科技成立于2016年,聚焦于基于數據流架構的定制AI計算引擎,其自主研發的CAISA架構已有近三十年技術積累。鯤云科技目前已經完成了天使輪,A輪及A+輪融資,并在深圳、山東、倫敦研發中心。

現在,具體來看看這款數據流AI芯片CAISA的性能表現。

超高芯片利用率,定制數據流芯片架構完成3.0升級

此次發布的CAISA芯片采用鯤云自研的定制數據流芯片架構CAISA 3.0,相較于上一代芯片架構,CAISA3.0在架構效率和實測性能方面有了大幅的提升,并在算子支持上更加通用,支持絕大多數神經網絡模型快速實現檢測、分類和語義分割部署。CAISA3.0在多引擎支持上提供了4倍更高的并行度選擇,架構的可拓展性大大提高,在AI芯片內,每一個CAISA都可以同時處理AI工作負載,進一步提升了CAISA架構的性能,在峰值算力提升6倍的同時保持了高達95.4%的芯片利用率,實測性能線性提升。同時新一代CAISA架構對編譯器RainBuilder的支持更加友好,軟硬件協作進一步優化,在系統級別上為用戶提供更好的端到端性能。

image1

CAISA3.0架構圖

CAISA3.0架構繼續保持在數據流技術路線的全球領先地位,指令集架構采用馮諾依曼計算方式,通過指令執行次序控制計算順序,并通過分離數據搬運與數據計算提供計算通用性。CAISA架構依托數據流流動次序控制計算次序,采用計算流和數據流重疊運行方式消除空閑計算單元,并采用動態配置方式保證對于人工智能算法的通用支持,突破指令集技術對于芯片算力的限制。此次升級,CAISA架構解決了數據流架構作為人工智能計算平臺的三大核心挑戰:

高算力性價比:在保持計算正確前提下,通過不斷壓縮每個空閑時鐘推高芯片實測性能以接近芯片物理極限,讓芯片內的每個時鐘、每個計算單元都在執行有效計算; 高架構通用性:在保證每個算法在CAISA上運行能夠實現高芯片利用率的同時,CAISA3.0架構通用支持所有主流CNN算法; 高軟件易用性:通過專為CAISA定制的編譯工具鏈實現算法端到端自動部署,用戶無需底層數據流架構背景知識,簡單兩步即可實現算法遷移和部署,降低使用門檻。

具體來講,鯤云CAISA3.0架構的三大技術突破主要通過以下的技術方式實現:

高算力性價比:時鐘級準確的計算

CAISA3.0架構由數據流來驅動計算過程,無指令操作,可以實現時鐘級準確的計算,最大限度的減少硬件計算資源的空閑時間。CAISA3.0架構通過數據計算與數據流動的重疊,壓縮計算資源的每一個空閑時鐘;通過算力資源的動態平衡,消除流水線的性能瓶頸;通過數據流的時空映射,最大化復用芯片內的數據流帶寬,減少對外部存儲帶寬的需求。上述設計使CNN算法的計算數據在CAISA3.0內可以實現不間斷的持續運算,最高可實現95.4%的芯片利用率,在同等峰值算力條件下,可獲得相對于GPU 3倍以上的實測算力,從而為用戶提供更高的算力性價比。

高架構通用性:流水線動態重組

CAISA3.0架構可以通過流水線動態重組實現對不同深度學習算法的高性能支持。通過CAISA架構層的數據流引擎、全局數據流網、全局數據流緩存,以及數據流引擎內部的人工智能算子模塊、局部數據流網、局部數據流緩存的分層設計,在數據流配置器控制下,CAISA架構中的數據流連接關系和運行狀態都可以被自動化動態配置,從而生成面向不同AI算法的高性能定制化流水線。在保證高性能的前提下,支持用戶使用基于CAISA3.0架構的計算平臺實現如目標檢測、分類及語義分割等廣泛的人工智能算法應用。

高軟件易用性:算法端到端自動化部署

image2

RainBuilder編譯工具鏈

專為CAISA3.0架構配備的RainBuilder編譯工具鏈支持從算法到芯片的端到端自動化部署,用戶和開發者無需了解架構的底層硬件配置,簡單兩步即可實現算法快速遷移和部署。RainBuilder編譯器可自動提取主流AI開發框架(TensorFlow,Caffe,Pytorch,ONNX等)中開發的深度學習算法的網絡結構和參數信息,并面向CAISA結構進行優化;工具鏈中的運行時(Runtime)和驅動(Driver)模塊負責硬件管理并為用戶提供標準的API接口,運行時可以基于精確的CAISA性能模型,實現算法向CAISA架構的自動化映射,同時提供可以被高級語言直接調用的API接口;最底層的驅動可以實現對用戶透明的硬件控制。RainBuilder工具鏈使用簡單,部署方便,通用性強,可以讓用戶快速和低成本的部署和遷移已有算法到CAISA硬件平臺上。

首款量產數據流AI芯片,CAISA帶來AI芯片研發新方向

image3

CAISA-定制數據流AI芯片

作為全球首款采用數據流技術的AI芯片,CAISA搭載了四個CAISA3.0引擎,具有超過1.6萬個MAC(乘累加)單元,峰值性能可達10.9TOPs。該芯片采用28nm工藝,通過PCIe3.0×4接口與主處理器通信,同時具有雙DDR通道,可為每個CAISA引擎提供超過340Gbps的帶寬。

image4

CAISA芯片架構圖

作為一款面向邊緣和云端推理的人工智能芯片,CAISA可實現最高95.4%的芯片利用率,為客戶提供更高的算力性價比。CAISA芯片具有良好的通用性,可支持所有常用AI算子,通過數據流網絡中算子的不同配置和組合,CAISA芯片可支持絕大多數的CNN算法。針對CAISA芯片,鯤云提供RainBuilder3.0工具鏈,可實現推理模型在芯片上的端到端部署,使軟件工程師可以方便的完成CAISA芯片在AI應用系統中的集成。

image5

鯤云科技發布數據流CAISA芯片

高算力性價比的AI計算平臺星空加速卡系列產品發布

image6

發布會上,鯤云科技創始人和CEO牛昕宇還發布了基于CAISA芯片的星空系列邊緣和數據中心計算平臺,X3加速卡和X9加速卡,并公布了由人工智能產業技術聯盟(AIIA)測試的包括ResNet-50, YOLO v3等在內的主流深度學習網絡的實測性能。

image7

星空X3加速卡發布

星空X3加速卡是搭載單顆CAISA 芯片的數據流架構深度學習推斷計算平臺,為工業級半高半長單槽規格的PCIe板卡。得益于其輕量化的規格特點,X3加速卡可以與不同類型的計算機設備進行適配,包括個人電腦、工業計算機、網絡視頻錄像機、工作站、服務器等,滿足邊緣和高性能場景中的AI計算需求。相較于英偉達邊緣端旗艦產品Xavier,X3可實現1.48-4.12倍的實測性能提升。

b1

*模型參考:https://github.com/pushyami/yolov3-caffe/blob/master/deploy.prototxt

 

image11

星空X9加速卡發布

星空X9加速卡為搭載4CAISA 芯片的深度學習推斷板卡,峰值性能43.6TOPS,主要滿足高性能場景下的AI計算需求。同英偉達旗艦產品T4相對,X9在ResNet-50, YOLO v3等模型上的芯片利用率提升2.84-11.64倍。在實測性能方面,X9在ResNet50可達5240FPS,與T4性能接近,在YOLO v3、UNet Industrial等檢測分割網絡,實測性能相較T4有1.83-3.91倍性能提升。在達到最優實測性能下,X9處理延時相比于T4降低1.83-32倍。實測性能以及處理延時的大幅領先,讓數據流架構為AI芯片的發展提供了提升峰值性能之外的另一條技術路線。

b2

*模型參考:https://github.com/pushyami/yolov3-caffe/blob/master/deploy.prototxt

image12

image13

image14

鯤云科技通過CAISA數據流架構提高芯片利用率,同樣的實測性能,對芯片峰值算力的要求可大幅降低3-10倍,從而降低芯片的制造成本,為客戶提供更高的算力性價比。目前星空X3加速卡已經實現量產,星空X9加速卡將于今年8月推出市場。鯤云科技成為國內首家在發布會現場披露Benchmark的AI芯片公司。

商業落地先行,鯤云加速卡實現多領域規模落地

作為技術驅動的AI芯片公司,鯤云科技自成立以來一直注重商業落地,目前鯤云科技已與多家行業巨頭達成戰略合作,成為英特爾全球旗艦FPGA合作伙伴,在技術培訓、營銷推廣以及應用部署等方面進行合作;與浪潮、戴爾達成戰略簽約,在AI計算加速方面開展深入合作;與山東產業技術研究院共建山東產研鯤云人工智能研究院,推進人工智能芯片及應用技術的規模化落地。明星產品“星空”加速卡已在電力、教育、航空航天、智能制造、智慧城市等領域落地。自2016年成立至今,鯤云科技已經完成了天使輪,Pre-A輪及A輪融資,設有深圳、山東、倫敦研發中心。2018年成立人工智能創新應用研究院,定位于建立人工智能產業化技術平臺,支持人工智能最新技術在各垂直領域快速實際落地,啟動鯤云高校計劃,開展人工智能課程培訓和科研合作。除與Intel合作進行人工智能課程培訓外,鯤云人工智能應用創新研究院已同帝國理工學院、哈爾濱工業大學、北京航空航天大學、天津大學、香港城市大學等成立聯合實驗室,在定制計算、AI芯片安全、工業智能等領域開展前沿研究合作。

官方微博/微信

每日頭條、業界資訊、熱點資訊、八卦爆料,全天跟蹤微博播報。各種爆料、內幕、花邊、資訊一網打盡。百萬互聯網粉絲互動參與,TechWeb官方微博期待您的關注。

↑掃描二維碼

想在手機上看科技資訊和科技八卦嗎?

想第一時間看獨家爆料和深度報道嗎?

請關注TechWeb官方微信公眾帳號:

1.用手機掃左側二維碼;

2.在添加朋友里,搜索關注TechWeb。

手機游戲更多

福彩3D过滤器 贵州十一选五专家预测 手机棋牌苹果版真钱 内蒙古快3形态走势图一定牛 银河磁体股票 排列五软件开奖软件下载 湖北11选5任二遗漏表 河北十一选五走势图定牛 重庆时时最新开奖历史 贵州快3二不同推荐号 浙江十一选五哪里可以玩 秒速快3在线计划预测 股票配资推荐 丨找杨方配资开户 华东15选5开奖软件 福彩3d2019.074期图 义乌期货配资 今日快乐8开奖结果查询