Instella-MoE – AMD 开源的混合专家语言模型系列

Instella-MoE是什么Instella-MoE 是 AMD 开源的混合专家语言模型系列，总参数量 16B、激活参数量 2.8B，采用 27 层解码器架构。模型基于 AMD Instinct M