消息详情
cnBeta.com 全文 · @cnBeta_full · 2026年11月20日 00:41
Google DeepMind工程师在办公室打印机上成功运行Gemma 3 270M模型 一名Google DeepMind工程师近日展示了一项颇具创意的实验:他成功在一台普通办公室激光打印机内直接运行了Google的Gemma 3 270M小型语言模型。该模型参数量约为2.7亿,而实验所用的打印机仅有14.1MB可用内存,却仍实现了每秒超过60个词元的生成速度。 这项成果由工程师Omar Sanseviero在社交平台X上公布。他表示,在Carbon项目的帮助下,自己将Gemma模型直接运行在办公室打印机中。整个实验并未修改打印机固件,也没有外接计算板或其他硬件,而是完全依赖现代激光打印机内置的PostScript页面描述语言。 PostScript是一种图灵完备的页面描述语言,通常用于控制打印机如何呈现文字、图形和页面布局。实验团队利用Carbon这一轻量级Transformer推理引擎,并搭配经过量化处理的Gemma 3 270M模型,最终生成了一份原始PostScript打印文件。打印机在执行该文件时,实际上是在其PostScript解释器内部完成语言模型的推理计算。 为了避免模型推理过程中耗尽打印机内存,实验采用了动态层流式加载技术。系统会不断将模型的不同层调入和调出内存,使峰值内存占用仅维持在14.1MB,而打印机分配给PostScript虚拟内存的容量为244.6MB。即便如此,Gemma 3 270M仍在打印机CPU上达到了61.3 tokens/s的生成速度。 根据实验中拍摄的硬件信息,这台Ricoh打印机在PostScript Level 3解释器内原生执行了18层Transformer计算。当输入仅包含四个词元的提示语“Read the fine”时,预填充阶段耗时184秒,而生成单个词元的解码时间仅为0.1秒,整个处理过程共计184秒。 计算完成后,打印机最终将三词回答“Read the fine print”直接打印在纸上。这个结果不仅证明了模型确实在打印机内部完成了推理,也说明日常办公设备在软件层面的潜力远超人们的预期。虽然这种运行方式并不适合实际生产环境,但它展示了小型量化模型、推理引擎与既有硬件能力结合后可能达到的边界。 https://www.cnbeta.com.tw/articles/tech/1587142.htm
相關消訊
- NAND闪存现货价格两周内下滑约20% 消费需求疲软成为主因 据行业研究机构TrendForce及《首尔经济日报》报道,NAND闪存的现货价格自10月下旬以…
- FCC批准监狱使用手机信号干扰设备 以打击违禁手机和狱内犯罪活动 美国联邦通信委员会于周四一致投票通过一项新规,允许州立和地方监狱使用手机信号干扰技术。该机…
- Google为Mac版Gemini推出“电脑操作”功能 AI可代用户完成多步骤任务 Google周四宣布,其macOS版Gemini桌面应用正式引入“电脑操…
- Google搜索首页迎来重大改版:AI对话入口将直接出现在页面上,用户无需进入单独界面即可发起、查看和继续与AI的搜索对话。 iframe (platfor…
- 摩托罗拉Razr Flex折叠屏手机新谍照曝光 一组据称是摩托罗拉下一代折叠屏手机Razr Flex的实拍图在网上流传。继此前Reddit平台出现一张泄露照…
- 英特尔公布D270加速器成绩单 部分专业计算性能最高领先英伟达近六倍 https://www.cnbeta.com.tw/articles/tech/158…
- DDR6内存条长度或将比DDR5短44% 带宽提升超50% https://www.cnbeta.com.tw/articles/tech/1587146.…
- 英国法院要求政府公开苹果“后门令”存在情况 公司的保密主张遭驳回 https://www.cnbeta.com.tw/articles/tech/15871…
- 夜空中的人造卫星数量正超过许多城镇上空肉眼可见的星星 https://www.cnbeta.com.tw/articles/science/1587140.…
- RTX 5090加持《GTA6》画面曝光:DLSS 5让帧数从30飙升至280FPS 虽然《GTA6》目前尚未推出PC版,但借助采集卡、PC硬件以及英伟达D…