个人随笔 搞AI的是真没钱了 MoE 架构,即混合专家架构,是神经网络的一种架构模式。先前,有关MoE 架构的认知和讨论并不算多,但当MoE 架构可以作为一种降低运营成本、提升训练效率的架构时,它便成了大模型公司的关注重点之一。 虎嗅 AI公司MoE小模型