Gemma 4不堆参数，只求每代更强、成本不变。Google用逐层embedding、多token预测和2-bit量化，把128K上下文、视觉、音频与工具调用一并压进手机，E2B因此在推理、编码和智能体任务上赢过上代27B；模型经AICore交付，全程本地、断网可用，响应更快也更省电。
【PChome报道】Gemma 4不堆参数，只求每代更强、成本不变。Google用逐层embedding、多token预测和2-bit 量化，把128K上下文、视觉、音频与工具调用一并压进手机，E2B因此在推理、编码和智能体任务上赢过上代27B；模型经AICore交付，全程本地、断网可用，响应更快也更省电。
把一台服务器塞进手机，听着不太可能。但这场演讲开篇就把话说死了：Gemma每一代都要变强，运行成本一分不能涨。原因朴素得有点扫兴——手机只有12到16GB 内存，服务器约80GB；手机带宽几十GB 级，服务器是TB级，还有一块不能发烫的电池。端侧AI卡了这么多年，卡的不是脑子，是家底。
Google的解法不是把模型削小凑合跑，而是重新算账。Gemma第三代那个270M的小不点让人发现：小模型不是妥协，是真有大批活儿等着它干。于是Gemma 4按设备分家：手机跑E2B、E4B，笔记本交给12B，更大尺寸另出密集版与MoE。分家之后能力反而更满：128K上下文、不被压成方形的图片理解、三十多种语言的听与译，加上会规划、能调工具的智能体本事，全装进一个能塞进手机的2B级模型，许可也换成Apache 2.0。
怎么做到的？说穿了是三个“省”：
省内存：多做一张每层都能读的参数表，用到哪段搬哪段，进内存的只有等效2B，本事却是大模型的。
省时间：让小模型一口气猜三四个token，主模型只管点头，连缓存都共用，解码延迟砍四成、能耗降三到四成，代码一行不用改。
省体积：从训练那天就让模型知道，你将来是要被压缩的，再把部分参数压到2-bit，做出不到1GB的版本，质量几乎没掉。
结果有点扎眼：E2B在推理、编码和智能体任务上赢了大得多的Gemma 3 27B，LiveCodeBench 44比29，E4B全项胜出。
两条路摆在开发者面前：AICore加ML Kit把优化、更新和两端安全检查都兜着；LiteRT给你全部控制权，内存功耗也全给你扛。语音助手从听到想再到说全在设备上跑完，没有一次云端往返，话说到一半被打断也能立刻拐弯。那一刻对于用户是最重要的，就是谁能把每一bit内存、每一毫瓦电，都换成用户感觉得到的能力。
网友评论