梦见黑蛇面壁小钢炮4.0发布:性能比肩 Qwen-3-8B,极限220倍提速
新浪科技讯 6月10日下午消息,近日,面壁智能第四代“面壁小钢炮” MiniCPM4.0 端侧模型(代号“前进四(🍐)”)发布。据悉,第四代小钢炮拥有 8B 、0.5B两种参数规模(➡),实现了同级最佳的模型性能。可让长文本、深思考在端侧真正跑起来,实现220倍极限加速。
梦见黑蛇 其中,MiniCPM 4.0-8B 模(🐼)型为稀(🐺)疏注意力模型,在MMLU、CEval、MATH500、HumanEval等基准测试中,以仅22%的训练开销,性能比肩 Qwen-3-8B、超越Gemma-3-12B。MiniCPM 4.0-0.5B在性能上,也较更大的Qwen-3-0.6B、Llama 3.2实现仅2.7%的训练开销,一半参数性能翻倍,并实现了最快 600 Token/s的极速推理速度。
相较于Qwen-3-8B、Llama-3-8B、GLM-4-9B等同等参数规模端侧模型,实现了长文本推理速度5倍常规加速以及最高 220倍加速(显存受限极限场景下测出),让端侧模型长文本推理“快如闪电”。面壁智能联合(🍦)创始人兼首席科学家刘知远在与新浪科技沟通中表示,“最高220倍加速,其实是建立在我们模型架构、数据治理、软硬件结合、训练等方面全栈创新优化成果之上的。”
梦见黑蛇 刘知远指出(🎐),220倍的加速看上去比较夸张,但本身其实存在一个特殊性——由于MiniCPM4.0 在处理更长序列的数据时,可以更好地去处理Transformer架构带来的内存爆炸问题,避免了长序列数据处理带来的内存占(🔜)用倍增,而同尺寸的Qwen-3-8B、Llama-3-8B等模型并未(😧)就此进行优(🥢)化,因此MiniCPM4.0有了突出的表现。
梦见黑蛇 据悉,MiniCPM 4.0 模型采用的InfLLMv2稀疏注意力架构改变了传统 Transformer 模型的相关性计(😪)算方式,有效摆脱了逐字重复计算的低效,将稀疏度从行业普遍的40%-50%,降至极致的5%,注意力层仅需1/10的计算量即可完成长文本(🖐)计算。且对算子底层重写,进(🐫)一步加速提升,并使得对文(🏠)本相关性(⛴)精准性大大提升。
梦见黑蛇 值得一提的是,DeepSeek 使用的长文本处理架(⬆)构NSA((🐜)Native Sparse Attention)也引用并采用了与InfLLM相同的分块注意力计算思路,但其对于短文本的推理较慢,InfLLMv2则很好地解决了NSA在短文本推理上的短板。
在缓存消耗上,MiniCPM 4.0-8B在 128K 长文本场景下相较于Qwen3-8B仅需 1/4 的缓存存储空间。在速度、性能飙升的同时,又做到了模型极致压缩,让端侧算力不再有压力。
梦见黑蛇 (🍶) 据悉,基于 8B 版本,面壁智能已微调出两个特定能力模型,分别可以用作 MCP Client 和纯端侧性能比肩Deep Research的研究报(🌪)告神器MiniCPM4-Surve。截至目前,面壁小钢炮 MiniCPM 系列全平台下载量累计破1000万。(文猛)
相关链接:
- 2025 款微星星影 17 笔记本开售:i9-14900HX + 16G + 1T + RTX5070 售 9999 元(国补后 7999.2 元)
- 全新一代红魔游戏本 16 PRO 官宣:酷睿 Ultra 9-275HX + RTX 5090
- 广西柳州港直通珠海高栏港集装箱班轮首航开通
- 5月金融数据前瞻:政府债券延续较快发行节奏有望支撑社融增长
- 618 轻薄本选购攻略:华硕无畏 16 2025 领衔,大屏高能之选
- 神牛推出 V480 TTL 闪光灯:实时显示有效闪光距离、2200 毫安时锂电池可 650 次全功率闪光,898 元
- 上海在建8600车位双燃料动力大型汽车运输船系列首制船正式命名
- 荣耀 CEO 李健国内首秀,官宣“全球百万雄鹰计划”
- 蔚来能源实现天津换电县县通,56 座换电站覆盖全市 16 个区
- 红魔骁龙 8 至尊版平板跑分曝光,提供 24GB 版本
相关新闻
- 梦见黑蛇今年前5个月中国检方办理文物和文化遗产保护公益诉讼案2160件详细阅读
中新社北京6月14日电 (记者 张素)“今年1月至5月,全国检察机关共立案办理文物和文化遗产保护公益诉讼案件2160件,在公益诉讼办案总数中占比4...
2025-06-1521
- 梦见黑蛇伊朗外交部发言人:尚未就伊美核问题会谈做出“最终决定”详细阅读
中新社北京6月14日电 德黑兰消息:伊朗外交部发言人巴加埃14日就原定于15日举行的新一轮伊朗与美国核问题间接会谈表示,伊方尚未做出“最终决定”。...
2025-06-15107
- 详细阅读
- 梦见黑蛇我国新增10家国家考古遗址公园详细阅读
中新网6月14日电 据国家文物局微信公众号14日消息,国家文物局近日发布《国家文物局关于公布10家国家考古遗址公园名单的通知》,10家单位列入国家...
2025-06-15125
- 梦见黑蛇美国海军陆战队进驻洛杉矶开始执勤详细阅读
中新社洛杉矶6月13日电 (记者 张朔)美国军方13日证实,约200名海军陆战队士兵已进驻洛杉矶,即日起开始执行保护联邦机构和人员安全任务。...
2025-06-15124
- 梦见黑蛇两岸嘉宾厦门恳谈“智慧社区”详细阅读
中新社厦门6月13日电 (林永传)第十七届海峡论坛·两岸社区服务恳谈会开幕式13日在厦门举行。来自台湾近20个社团以及海峡两岸社区工作机构代表、智...
2025-06-15144
- 梦见黑蛇重温旧时记忆 “转角遇眷你——眷村文化记忆展”台北开幕详细阅读
中新社台北6月12日电 (记者 张晓曦)“转角遇眷你——眷村文化记忆展”12日在台北开幕,展览以沉浸式方式呈现,通过实物、影像等形式,再现眷村的旧...
2025-06-15158
- 梦见黑蛇Meta入股49%后,AI独角兽Scale遭遇客户流失潮,谷歌带头"逃离"详细阅读
炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! 来源:华尔街见闻 一场价值290亿美元的交易,本应是AI数据独角...
2025-06-15149