Unigen推出E1.S介面AI加速模組,僅10W具60TOPS算力及32GB記憶體可支援20B語言模型
2026年4月15日 17:03
Unigen推出一款採用E1.S介面的AI加速模組Amaretti,搭載EdgeCortex SAKURA-II晶片與32GB記憶體,標榜僅10W功耗及具備60TOPS(Int 8)算力並可支援20B參數的大型語言模型,且可與AMD或Intel伺服器搭配使用,提供低延遲的地端生成式AI及大型語言模型應用,諸如文字轉語音、視覺語言模型等。

Unigen是一家1991年成立的OEM設計與製造商,主要產品包括SSD、DRAM模組、NVDIMM記憶體、企業I/O與AI解決方案,而Amaretti是Unigen首款AI硬體解決方案,採用EdgeCortex SAKURA-II加速晶片,可於僅10W低功耗發揮60 AI TOPS效能,每瓦效能高達6 TOPS,同時32GB的板載記憶體足以執行20B參數模型。
Amaretti模組強調可與主流的TensorFlow、PyTorch、ONNX、Hugging Face等框架無縫整合,且透過MERA SDK工具,可確保裝有Amaretti模組的系統不會耗費額外的CPU資源執行AI任務。