技術簡介:
本團隊研發出專為Transformer架構與LLM推論優化的高效加速器MMA。我們的晶片具備低功耗、高效能等優勢，是目前唯一可全端運行大語言模型於邊緣裝置的方案。相較於喬治亞理工的MicroScopiQ、首爾大學的Tender及高麗大學的OPAL架構，我們率先實現LLM on Edge的完整落地。
產業應用性:
大型語言模型已廣泛應用於日常與專業領域，我們設計的晶片可應用於企業伺服器或行動裝置，提供即時推理服務，同時降低能源消耗並保障資料隱私。未來人人可在手機上離線運行LLM，實現隨時隨地安全互動的AI體驗。
國立陽明交通大學（NYCU）於2021年由國立陽明大學與國立交通大學合併而成，位於新竹市。學校擁有強大的科技、工程、醫學及社會科學領域，並在資訊技術、生物醫學、人工智慧等領域具有卓越的研究實力。國立陽明交通大學致力於跨領域合作與創新，並培養具全球視野的專業人才，積極應對社會挑戰與推動科技發展，為學術界和產業界作出重要貢獻。
技術成熟度：其他
展示目的：研發成果展示
流通方式：自行洽談
*服務單位
*姓名
*電話
*您參觀這項展品的主要目的？
*您是否希望進一步洽談
*您的職務類別
*展覽整體評價
*最喜歡的展區
*期待展覽著重的技術領域
*是否願意收到電子報/最新資訊
其他建議
敬請期待!
