业界动态 Scaling Law开始挤进手机了 手机端侧模型正从3B狂飙到30B,MoE技术让参数规模与计算量解耦,看似打开了Scaling Law的新窗口。但内存、功耗与存储成本并未同步松绑,芯片两年后的落地周期更让这场技术押注充满变数。本文拆解30B端侧竞赛背后的能力红利与硬件账本。 全天候科技 MoE端侧模型行业观察
AI MiniCPM 4.0 技术报告:端侧速度的奔涌,是模型的自我Rag MiniCPM 4.0的发布,标志着端侧模型在速度、性能和长文本处理能力上的巨大飞跃。通过原生稀疏技术,MiniCPM 4.0不仅大幅提升了模型的推理速度,还在保持高性能的同时,显著降低了显存占用和计算成本。 赛博禅心 MiniCPM案例分析端侧模型
AI AI产品经理必读:如何让端侧模型更聪明? 受限于设备的计算能力和存储空间,如何让端侧模型在资源有限的情况下变得更聪明、更高效,成为了AI产品经理的一个关键挑战。本文将详细介绍九种前沿技术,希望能帮到大家。 赛先声 AI产品经理端侧模型经验分享