AI PIM
生成式AI,是時下非常火熱的議題,能帶動大量的經濟成長和改變我們的生活,已從雲端運算逐步擴散至邊緣運算,即消費性電子、智慧家庭、物聯網。現有AI運算架構受限於「記憶體牆」,GEMV高傳輸、低運算的執行成分佔生成任務總延遲達60–80%,AI PIM於記憶體端執行GEMV,使頻寬提升8倍、能耗降低90%,能滿足生成式 AI的記憶體操作需求,且採用JEDEC標準介面,不僅突破PCIe傳輸瓶頸,更能無縫(seamless)整合至現有AI應用與裝置環境,全面加速語言模型邊緣運算落地。
產業應用性:
-
財團法人工業技術研究院
工業技術研究院是國際級的應用研究機構,擁有六千位研發尖兵,以科技研發,帶動產業發展,創造經濟價值,增進社會福祉為任務。自1973年成立以來,率先投入積體電路的研發,並孕育新興科技產業;累積近三萬件專利,並新創及育成,包括台積電、聯電、台灣光罩、晶元光電、盟立自動化、台生材等上市櫃公司,帶動一波波產業發展。