Meta 发布 Llama 4 系列多模态大模型 突破性架构引领参数规模与效率革新

数智朋克讯，Meta最新发布的Llama 4系列以突破性架构重新定义多模态大模型边界。该系列采用混合专家系统（MoE）实现参数规模与运算效率的双重跨越，其中旗舰型号Llama 4 Behemoth以2万亿总参数刷新行业记录，其衍生产品Scout和Maverick已率先投入实际应用。

面向跨模态交互场景的Llama 4 Maverick展现更强泛化能力，128个专家模块协同运作支撑起4000亿参数规模，配合跨模态注意力机制实现视觉-语言信号的深度关联。该模型在未标注数据预训练中形成的视觉语义理解能力，使其在动态视频解析和语音指令响应方面超越现有主流方案。

计算架构创新成为系列亮点，MoE架构使模型运行时仅激活3.5%-4.25%参数量，配合NVIDIA H100 DGX的硬件适配，实现单机部署条件下的实时推理。开源生态布局同步推进，Scout与Maverick已开放模型权重，开发者可基于32专家版本进行垂直领域微调。

性能测试数据显示，该系列在多模态基准MMLU和BENCH-CV等评估体系中平均领先竞品12.7个百分点，其中Behemoth工程版在量子计算模拟等STEM任务中已展现理论推导能力。随着训练数据规模持续扩大，这套支持万亿级参数灵活调配的架构或将成为下一代基础模型的标配方案。