展示資訊

AI PIM

生成式AI,是時下非常火熱的議題,能帶動大量的經濟成長和改變我們的生活,已從雲端運算逐步擴散至邊緣運算,即消費性電子、智慧家庭、物聯網。現有AI運算架構受限於「記憶體牆」,GEMV高傳輸、低運算的執行成分佔生成任務總延遲達60–80%,AI PIM於記憶體端執行GEMV,使頻寬提升8倍、能耗降低90%,能滿足生成式 AI的記憶體操作需求,且採用JEDEC標準介面,不僅突破PCIe傳輸瓶頸,更能無縫(seamless)整合至現有AI應用與裝置環境,全面加速語言模型邊緣運算落地。
產業應用性:
-

財團法人工業技術研究院

工業技術研究院是國際級的應用研究機構,擁有六千位研發尖兵,以科技研發,帶動產業發展,創造經濟價值,增進社會福祉為任務。自1973年成立以來,率先投入積體電路的研發,並孕育新興科技產業;累積近三萬件專利,並新創及育成,包括台積電、聯電、台灣光罩、晶元光電、盟立自動化、台生材等上市櫃公司,帶動一波波產業發展。

聯絡人

姓名:張宗智
電話:(03)5912863
地址:新竹縣竹東鎮中興路四段195號
Email

其他資訊

展館別:創新經濟館 半導體 IC15
所屬部會/單位:經濟部產業技術司
主要應用領域:電子與光電
更多資訊