●技術簡介:
搭配 AI toolchain (ezLabel, ezModel, ezQUANT, ezHybrid-M),可自動設計優化AI模型,支援1/2/4/8-b CNN運算,此高效能H-CNN NPU效能達2.5TOPS(8-b)/ 20TOPS(1-b)@28nm/550MHz與4TOPS/W效率。
●技術之科學突破性:
(1) AI deep compression toolchain
• 首創 ezLabel 快速資料標記功能(可加速40x任意物件影片標記)與全自動資料標記功能(可加速 up to 200x 80類影像/影片物件標記),並獲 2018 AUDI Innovation awards。
• 首創支援 Bit-accurate CNN 定點數深度學習模型分析與再訓練環境(iVS-Caffe)與工具(ezQUANT),可確保定點數模型偵測準確度,研究成果已獲 IEEE Trans. on Neural Networks and Learning Systems (IF=8.793) 接受 (March, 2021)。
• 首創可訓練Hybrid fixed point/binary CNN 深度學習模型訓練工具(ezHybrid-M),可大幅降低CNN深度學習模型之模型大小、記憶體資料存取量與功率消耗。以 Mobilenet+SSD模型訓練為例,可有效降低 91%之模型參數量與 76% 之記憶體資料存取量。研究成果已發表於 IEEE Journal on Emerging and Selected Topics in Circuits and Systems (JETCAS), vol. 10, no. 3. Pp. 388-400, September 2020.
(2) Hybrid fixed point CNN NPU
• 首創可支援1/2/4/8-bit CNN layer 運算之高效能深度學習加速器 NPU,其效能達到 2.5TOPS(8-b)/20TOPS(1-b)@28nm/550MHz,其能源效率可達 4.375TOPs/W@28nm)。本設計已完成FPGA驗證與晶片前段驗證,並獲第二十屆旺宏金矽獎設計組評審團銀獎。
●技術之產業應用性:
(1) AI deep compression toolchain 與 Hybrid fixed point CNN NPU技術已成功吸引緯創資通公司於交通大學設立:緯創-交大嵌入式人工智慧研究中心,預計每年投入新台幣 1000萬元以上研究經費進行技術研發,第一年(2020/9-2021/8)已投入新台幣1260萬元產學計畫經費與540萬元先期技轉金。目前正洽談第二年計畫主題中。
(2) 本項 AI 創新研究專案計畫四年來(2018/1-2021/6)已經衍生 35件產學合作計畫與19件技術移轉計畫,總金額達新台幣7314.55萬元,並產出4件美國專利獲證與7件中華民國專利獲證。
(3) 基於AI deep compression toolchain 與 Hybrid fixed point CNN NPU技術成果,執行團隊目前正籌劃新創公司 (AAAI Technologies),準備向潛在投資人(包含緯創資通公司)進行募資,預計天使輪募資金額為新台幣 1-1.8億元間,並預定於 2021年底前設立。
(4) 基於AI deep compression toolchain 與 Hybrid fixed point CNN NPU技術成果,本團隊已獲科技部推薦,參加 2021 InnoVEX 線上技術推廣會,進行國內外技術推廣。
線上展網址:
https://tievirtual.twtm.com.tw/iframe/78e3a10c-81dc-4a57-8565-7c268c597b76?group=23bfb1fa-dd5b-4836-81a1-4a1809b1bae5&lang=tw
技術成熟度:雛型
展示目的:可交易技術、可交易專利、商機推廣、研發成果展示
流通方式:專利授權/讓與、技術授權/合作、自行洽談
敬請期待!