消息详情
黑洞资源笔记 · @piracy6 · 2026年11月19日 22:37
「当大模型第一次读懂一门“从未见过”的语言」 辛顿最近举了个很能说明问题的小实验:他的一位很聪明、也很会写代码的前学生,临时定义了一门语法非常古怪的新编程语言,再把一段这种语言写成的程序丢给大模型,问它“这段代码会做什么”,结果模型答对了。 这个例子之所以有意思,不在于它又刷了一次“会不会编程”的分,而在于它碰到了一个更根本的争论:如果大模型真的只是机械地预测下一个词,它怎么会在几乎不可能有现成语料可背的前提下,先吃透一套新规则,再据此推演程序行为? 当然,这不等于一句话就能证明模型已经像人一样“理解”,也不能抹掉统计学习的底层机制;但它至少说明,所谓“下一个词预测”并不是一句足够完整的解释。 很多人把这句话当成贬义,仿佛预测就意味着鹦鹉学舌,可真正让人吃惊的,恰恰是当预测规模、训练数据和模型结构叠加到一定程度后,它会长出规则抽取、模式迁移和临场推理的能力。 争论接下来恐怕不该停留在“它到底是不是只会续写”,而该转向:这种能力从哪里来,边界又在哪里。
相關消訊
- trybox.app
- 当搜索先回答你,网站就开始失血了 | blog 柏林生活指南网站 All About Berlin 的作者写下了一次很具体的崩塌:这个从 2017 年运营、…
- 「面试的七项核心能力」 很多人把面试准备理解成背题和演完美,结果越练越紧绷,场上反而失了分。其实面试拼的是七项可训练的能力:即兴表达、分层准备、平等对话、自…
- 「一本把打工风险拆开算清的职场自救书」 很多人吃亏,不是因为不努力,而是根本不知道工资少发了怎么追、加班费怎么算、年假没休能不能换钱、被调岗被裁时该留什么证…
- 「AI应用上线安全手册」| Reddit 有位开发者用 AI 工具搭了个预约应用,接了 OpenAI、Stripe、Resend,上线后才发现三枚敏感凭据可…
- 「AI 写的代码,应该开源吗?」| blog 这篇文章的观点很鲜明:凡是主要由 AI 生成的代码,都应该开源,至少应明确用开源协议或 CC0 这类公共领域授…
- 「代码跑得越快,系统越容易失序」 | blog 最近把几起云宕机、依赖链污染和长期潜伏漏洞放在一起看,会发现它们不是孤立事故:现代软件叠了太多抽象层,业务、…
- 「把AI从答案机,调成会逼你动脑的陪练」 很多人用大模型学习,停在“讲给我听”这一层:对话顺、信息多,合上窗口却留不下东西。问题不在模型,在用法——它替你想…
- 「把PPT、Python和AI编辑器揉进一块,Manimble想重做演示软件」 Manimble是一款给Manim用户准备的开源演示编辑器,表面上像常见幻灯…
- 「给手机再开一部安卓」 AndVM做的不是传统意义上的“云手机”,而是在本机里跑一个独立的 Android 虚拟机:支持 Android 10 到 17,可…