0920 | 从微型AI到一战密码:本期科技快讯

||Download

Show notes

本期快速扫描科技圈的新鲜事:从能在三十分钟内训练完的小型AI、星际争霸基准测试,到破译一战密码的GPT-6;再聊聊AI写作该不该用、NYT版权诉讼的猛料,以及搜索索引、Zig重写、Z80复古桌面等工程趣闻,最后是HN排名公式、数学学分之争、大脑双起源和"合法的洋葱期货"。

时间轴

  • 00:00:04 开场
  • 00:00:42 AI能力的两端:微型专用模型与基准突破
  • 00:07:27 AI写作与版权之争
  • 00:12:15 搜索、测量与语言规则:数据工具速览
  • 00:16:09 复古桌面与现代重写:工程中的极致与取舍
  • 00:19:11 排名公式与学术评价:什么才算'被认可'
  • 00:23:18 科学的意外与法律的缝隙
  • 00:26:47 收尾

相关信息

本期节目由 Bri 出品。Bri 使用先进的 AI 技术将你在意的资讯转换成适合收听的播客。如需联系,请发邮件至 hi@bri.so

Transcript

茉莉: 大家好,欢迎收听本期节目,我是茉莉。

白桦: 我是白桦。今天我们把过去一天里最有意思的几条技术讨论凑到一起,从很小很小的AI模型,一直聊到很大很老的密码、复古电脑、排名公式,还有洋葱期货这种听上去像段子的真实法律缝隙。

茉莉: 这些故事表面上看毫不相干,但背后其实有一条线:规则——不管是算法规则、语言规则、法律规则,还是我们评价学术成果的规则——总会遇到挑战,然后用数据、工程或者奇思妙想逼出一个新答案。

白桦: 那我们就从最小的那端开始吧。茉莉,你先说说那个表单模型。

茉莉: 这个叫CUA-S1的模型,小到让人吃惊:只有七十万零六千个参数,整个模型2.8MB。它的任务非常专一——做表单决策,就是判断在界面上该点什么、怎么填。

白桦: 706k参数是什么概念?现在动不动就是几十亿、几千亿参数的模型,这个小了大概四五个数量级。

茉莉: 对,但它的成绩不差。表单决策这个任务上它做到99.7%的正确率,而对比对象是Jev——据说是TypeSafe的一个模型——只有83.6%。更夸张的是训练时间,不到三十分钟。

白桦: 三十分钟训练一个超越大模型的专用模型,这里面其实藏着一个很值得琢磨的道理。

茉莉: 我觉得核心是任务本身窄。表单决策看起来是通用智能问题的一部分,但它实际上模式相当固定:识别字段、判断意图、选择动作。当任务空间足够小,小型模型可以把这个空间里的所有分布学得非常透。

白桦: 对,而且2.8MB意味着什么?意味着它能塞进资源极差的环境。手机上、嵌入式设备上、甚至没有GPU的机器上都能跑。延迟、能耗、成本全部降下来。这是“小而专”路线的诱惑。

茉莉: 但代价也很明显:它只会这一件事。你让它去写邮件、读文档、规划多步任务,它就不行了。所以这个模型的存在本身就在提醒我们,AI能力不是一个单一的轴。

白桦: 正好,还有另一个和它呼应的东西——Laya。这个方向更有意思,因为它不是“小”出来的,而是换了一种架构思路。

茉莉: 对,Laya是一个开源的决策引擎,Apache 2.0许可证。它的卖点是“系统一”式决策——就是那种不经过深思熟虑、直觉式的快速反应——而且它是非自回归的。

白桦: 这一点值得解释一下。现在主流的大模型都是自回归的:一个token一个token往外蹦,后面的依赖前面的。这就天然慢,因为没法并行。

茉莉: 对。Laya跳出了这个范式,它声称大约33毫秒一次推理。33毫秒基本就是人类视觉反应时间的量级。所以它自称做的是“系统一”——不是逐步推理,而是直接的、整体的判断输出。

白桦: 而且它支持一百多种语言,也声称超过了TypeSafe那个Jev。也就是说,CUA-S1和Laya,一个是把任务缩小到极致,一个是把推理方式换成非自回归,两条路都在跟同一个“大而慢”的通用模型范式较劲。

茉莉: 有一个悬念我想留在这里:这些“声称超过”都还是厂商自己的说法,独立验证还没看到。99.7%对83.6%的对比,Laya对Jev的对比,都需要在别人的测试里复现才算数。听众听到这类数字时,保持一点怀疑是健康的。

白桦: 好的小而专聊完了,我们来看另一个极端:大模型在极端复杂任务上的表现。StarCraft,就是《星际争霸》的初代——母巢之战。有人做了一个叫Brood War Bench的基准,专门把AI代理放进游戏里对战。

茉莉: 这个选择很聪明。星际争霸是AI研究的经典难题:不完全信息、实时决策、巨大的动作空间、还要长期规划。比围棋难在好几个维度上。

白桦: 结果分两层。第一层,Codex Astra这个代理,战绩是18胜0负,全胜。

茉莉: 看起来很吓人,对吧?但这里有两个非常大的注脚。第一,每一局的成本是10.54美元。听起来不多,但对比一下:人类玩家打一局不要钱。

白桦: 第二个注脚更关键:没有一个模型超过初学者水平。

茉莉: 这是整个基准里最有信息量的一句话。18-0听起来是碾压,但它是在跟谁打?是在跟其他AI打。AI之间分出高下,不代表AI达到了人类的入门水平。这就像两个刚学会走路的孩子比赛谁跑得快——赢了的那个人也还是会摔跤。

白桦: 所以星际的完整难度——多线操作、经济管理、战争迷雾下的侦察和欺骗——依然横在这些模型面前。跟几十年前的DeepMind做AlphaStar的时代相比,这是个很清醒的提醒:通用模型虽然什么都会一点,但在需要极致实时和长期博弈的领域,专用方法当年摸到的高度还没被追上。

茉莉: 再来看一个真正“大而深”的突破,这个我觉得是今天最戏剧性的故事之一。

白桦: GPT-6 Astra破解了一条一战时期的德国密码,ADFGVGX密码。这条密文之前是无人能解的——不是没人认真试,而是很多专业的密码学家和爱好者都试过,都没解开。

茉莉: 它怎么解的?用了密钥"TRUPPENVERSCHIEBUNG"——德语里“部队调动”的意思。这很符合一战的历史语境,当时德军总部大量传递的就是部队调动和补给命令。

白桦: 而且关键的一步是验证。模型不是解出来就完了——它用HMS Canterbury,就是英国皇家海军坎特伯雷号的航海日志,来交叉核对。也就是说,破译出来的内容要能跟当年的真实历史记录对得上,这样才不是模型自己编了一个自洽的故事。

茉莉: 这一点非常重要,因为大模型有个已知的问题:它会自信地给出看似合理的答案。在密码破译这种领域,一个错误的解完全可以看起来很漂亮。所以“用独立的历史文献验证”是这件事可信度的支柱。

白桦: 现在我们把今天的AI两端放在一起看:一端是706k参数的模型,30分钟训练,专攻表单,效率惊人;另一端是通用大模型,能破解百年密码,但在星际争霸里打不过初学者,赢一局还要花十美元。

茉莉: 结论不是“谁更强”,而是能力是分形的。任务的形状决定了哪种工具合适。窄任务上,小模型又快又准又便宜;开放性的、需要背景知识和验证的智力难题上,大模型展现了独特价值;但在实时策略这种组合爆炸的领域,大家都还在起点附近。

白桦: 不过AI能力越强,争议也越多。茉莉,下一个话题正好是这个:AI写作和版权。

茉莉: 这场争论里我特别喜欢的一篇文章来自Erich Grunewald,他的立场非常极端也非常清晰:永远不要用AI来写实质性的文字。

白桦: “永远不要”,这个措辞不留余地。他的理由是什么?

茉莉: 两个论点。第一个是哲学层面的:写作的过程本身就是思考的一部分。这不是“先想清楚再写下来”的关系——想和写是同一件事。你在写的时候发现思路里的漏洞,发现一个概念其实你根本没理解透,发现两个观点之间有你自己没意识到的矛盾。如果把这个过程外包给模型,你不是省了时间,你是省掉了思考。

白桦: 第二个论点更技术性,但也更可怕。

茉莉: 对:AI犯错的方式是人眼难以察觉的。传统工具的失败是显式的——拼写检查标红线、编译器报错。但语言模型的错误是一句流畅的、语法完美的、听起来很有道理的错话。读者没有任何信号提示“这里有坑”。作者如果自己没写过、没想过,也发现不了。这就造成一种双向的失明。

白桦: 这个论点我觉得对技术写作尤其成立。你写一篇讲某个API的文章,模型悄悄混淆了两个参数的默认值,你自己没实际跑过,读者信了,错误就这么传播下去,而且是以“看起来很专业”的形式传播。

茉莉: 而且他要面对一个显而易见的反问:很多人用AI辅助写作,效率确实提升了,感觉也不错。怎么回应?Grunewald的立场大概是把“感觉不错”和“实际上很好”区分开。流畅不等于正确,省力不等于有价值。如果写作是你的核心产出,而不是你的附带产物,那这个外包就是在外包你的核心竞争力。

白桦: 这个争论还有一个非常现实的背景:版权诉讼。

茉莉: 对,纽约时报诉OpenAI的案子。案件简报里披露了一些非常尖锐的说法。其中一条是:微软的一位高管把AI的数据抓取称为——原话大意——“史上最大的工作盗窃”。

白桦: 这个措辞的分量你得掂量一下。“史上最大的”,这可是包括了一切历史上的盗窃行为在内。

茉莉: 而且说这话的人不是纽约时报阵营的人,是微软自己的高管。这说明行业内部的某些人在私下评估这件事时,用的语言比公开场合要严厉得多。当然,简报里的引用是诉讼文件,双方都有动机选择性地呈现对自己有利的内容,这一点要记住。

白桦: 另一条披露也很有意思:据称OpenAI曾使用过纽约时报的付费数据。

茉莉: “付费”这两个字是关键。训练数据的法律争论核心一直是“公开可抓取”和“受版权保护”之间的模糊地带。如果连付费墙后面的内容都被用于训练,那“公开”这个辩护就站不住了——付费内容明确不是公开授权的。

白桦: 这个案子的判决会怎么影响行业?我觉得是划边界。不管判成什么样,法院都得给出一个关于“训练数据”的可操作定义:什么叫合理使用,什么叫转换性使用,新闻机构的内容被拿来训练一个会和自己竞争的模型,这算不算侵蚀了原作品的市场。

茉莉: 在结果出来之前,所有的预测都是猜测。但可以确定的是:不管怎么判,生成式AI的训练数据来源规范都会被迫走向更透明、更可追溯的方向。

白桦: 有意思的是,同样是对AI创作的不满,视觉领域的人找到了另一条出路。

茉莉: 对,这个是一个很好的对照。有位博主做了实验:AI生成的海报有一种令人一眼认出的“ChatGPT风格”——那种过度打磨的、渐变紫色调的、构图均匀的美感。他发现,只要在提示词里指定非常具体的美学流派——包豪斯、risograph印刷风、粗野主义——就能把这些默认审美挤出去。

白桦: 也就是说,问题不在于AI“不会”做出有个性的设计,而在于默认状态下它会收敛到训练分布的均值。你给出强约束,它就能在约束内做出真正有意思的东西。

茉莉: 这和Grunewald的警告其实是同一枚硬币的两面。文字上,默认输出是“均值文章”,而且错误是隐形的,你很难用一条提示词把质量约束进去;视觉上,因为错误是看得见的、可以迭代的,你可以用明确的风格指令逼它离开均值。

白桦: 好的,从AI能力的争议换换空气。接下来我们聊三个工具类的东西,它们有一个共同点:把原本模糊、难以回答的问题,变成可以精确度量的问题。

茉莉: 第一个是搜索。PlanetScale给Postgres做了一个全文搜索的索引,名字叫TIN,现在已经正式发布。

白桦: “给Postgres做搜索索引”这件事为什么值得聊?因为传统上大家的答案是“数据量大了就把搜索扔给Elasticsearch或者专门的搜索引擎”——引入一整套新系统、新同步管道、新运维负担。

茉莉: TIN的路线是:别搬家,就在数据库里解决。它支持BM25评分——就是经典的信息检索排序算法——还有模糊匹配、短语查询,甚至正则表达式。

白桦: 性能基准也很实在:85GB的数据、一亿五千万篇Stack Exchange的文档,这个规模不是玩具演示。对于很多团队来说,“数据库原生 + 这个规模够用”就是一个可以砍掉一整条基础设施线的理由。

茉莉: 当然它不是没有边界——Postgres自身的扩展性天花板还在那里,真正的超大规模搜索还是要专门系统。但对绝大多数应用来说,问题从“要不要引入新系统”变成了“我的数据量在不在它的舒适区”。

白桦: 第二个工具是OONI Probe,做的是网络审查测量。

茉莉: 这个项目我真的很想多说几句。它测的东西是:在某个网络环境里,访问某个网站或应用会不会被拦截、被限速。测的维度包括网站、应用,还有连接速度。覆盖的平台有Android、iOS、Windows、macOS、Linux——基本上所有主流系统都有客户端。

白桦: 关键在于它的数据开放政策:结果近乎实时地公开发布。

茉莉: 这很重要。因为网络审查传统上是很难证明的事情——你的连接失败了,你不知道是被墙了还是服务器刚好挂了。OONI的意义在于把“疑似审查”变成“有数据支撑的测量结果”,而且是任何人都可以下载客户端、在自己网络上跑测试、然后和全球数据对比的。

白桦: 它也有本身的局限,比如测试只能覆盖已知的待测站点列表,误报也可能存在。但作为一项“让不可见的东西可测量”的工程,它是一个标杆。

茉莉: 第三个是最轻的一个,但特别能说明问题:英语里a和an的使用规则。

白桦: 这个话题看着像小学语法,实际上藏着语言学的一个经典误区。传统说法是:元音字母a、e、i、o、u开头的词用an,辅音字母开头的用a。

茉莉: 但这个规则是错的。真正的规则取决于发音,不是拼写。所以是"a unicorn"——unicorn拼写着u开头,但发音是"you",是辅音;反过来"an hour"——h开头,但h不发音,发音是元音开头。

白桦: Red Blob Games的作者做了一件很工程师的事:他不想接受“大致如此”的规则,他去找了数据。他分析了三万两千四百五十个单词,统计下来只有一百二十九个词需要作为例外单独处理。

茉莉: 一百二十九除以三万两千四百五十五,大概0.4%。也就是说,“按发音来”这个规则覆盖了99.6%的词汇。一个被无数教科书含糊其辞的规则,被数据精确地界定了边界。

白桦: 这三个例子放在一起,你会发现它们讲的是同一种思维:当一个问题模糊不清时,找一个可以测量的角度,然后用数据把它钉住。搜索质量可以基准测试,审查可以测量,语法规则可以统计。

茉莉: 好,接下来换一种味道:两个工程故事,一个往极致的老里做,一个往崭新的语言里做。

白桦: 先说那个让我头皮发麻的:ZX Desk。

茉莉: 听众可能需要一点背景。ZX Spectrum是1982年的家用电脑,48K内存——注意是48KB,不是48MB,也不是GB。那个年代的机器连显卡都是奢望,屏幕输出靠的就是那点内存里的位图。

白桦: 有个项目在这个机器上实现了一个完整的桌面GUI。完整的桌面环境——可以重叠的窗口、菜单系统,甚至还有一个堆内存管理器。

茉莉: 用什么写的?Z80汇编。一行一行手写的机器级指令。

白桦: 我觉得最有冲击力的就是这个对比:我们今天写一个网页应用,随便拉一个框架,bundle轻松超过2.8MB——顺便说一句,比今天开头那个AI模型的体积还大——而在48KB里,人家塞下了窗口管理、菜单、内存分配,全都在真实的1982年硬件上跑,不是模拟器里妥协出来的。

茉莉: 而且GUI本身在1982年的家用机上是很奢侈的想法。那个年代的机器大部分时间是全屏字符或者简单的图形模式,没有“窗口”的概念。要在一个没有硬件支持分层渲染的机器上做出重叠窗口,意味着每一次重绘都是软件手动算出来的。

白桦: 这就是约束的力量。当内存是硬约束,每一字节都要有存在的理由,代码被迫变得极其精炼。今天我们说“过早优化是万恶之源”,但在那种环境下,优化不是过早的,是唯一的活路。

茉莉: 然后是一个镜像的故事:不是往老里做,而是往新里做。

白桦: 一位Rust开发者用Zig重写了JSONPath——就是RFC 9535标准化的那个JSON查询语言。

茉莉: 他的结论很有意思,是两面的。正面:他称赞Zig的简洁和速度。Zig的设计哲学就是“没有隐藏的控制流、没有隐藏的内存分配”,对于一个解析和查询库来说,这种可预测性是真正的优点。

白桦: 负面:他指出了两个现实问题。第一,IDE支持缺失。没有好的自动补全、跳转、错误提示,写起来就不如成熟语言顺手。第二,语言本身的生态还不成熟。

茉莉: 这和ZX Desk形成了一个非常工整的对照。1982年的机器工具链原始,但硬件约束逼出了极致的效率;2024年的Zig语言目标就是极致的简洁和控制,但它的生态还在婴儿期。一古一今告诉你:约束催生巧思,新工具则仍然需要时间长大。选择Zig的人是在赌它的未来,选择ZX Spectrum的人是在用尽它的过去。

白桦: 好,接下来我们聊一个看起来轻、实际上挺深的话题:算法在评价什么。

茉莉: 2013年有一项研究,把Hacker News的排名公式逆向了出来。核心公式是:票数的0.8次方,除以时间的1.8次方。

白桦: 这个形状值得拆解一下。票数取0.8次方,意味着收益递减——从100票到200票带来的排名提升,比从10票到20票要小。时间取1.8次方,意味着内容衰减得非常快,旧帖子几乎必然沉底。

茉莉: 但更有意思的是公式之外的惩罚项。研究发现,当时首页上大约20%的帖子被施加了某种惩罚。还有一条非常具体的:标题里如果出现"NSA"这个词,排名要扣0.4。

白桦: "NSA"这条特别能说明问题。那正是斯诺登事件之后,NSA相关内容在Hacker News上铺天盖地的时期。算法设计者显然认为这类内容淹没了其他讨论,所以给了一个显式的打压。

茉莉: 这就引出了一个哲学问题:算法奖励什么,社区就产出什么。如果排名公式偏向争议性、或者偏向某种政治话题,那社区的内容分布就会被这个公式塑形。反过来,当算法手动惩罚某类话题,它也在表达一种编辑立场。

白桦: 而这里有一个永远无法彻底解决的问题:任何排名算法都是一次价值判断。它把“什么值得被看见”编码成了数学。而这个编码本身,几乎没有经过被它影响的人的同意。

茉莉: Terry Tao——就是那位菲尔兹奖得主——在一篇客座文章里,把同样的逻辑搬到了学术界。这篇文章发在Grant Sanderson的平台上,就是3Blue1Brown的那个Grant Sanderson。

白桦: 他的提议是:数学界应该给“有动机的解释”正式的学术学分。

茉莉: “有动机的解释”是什么意思?就是那种不只给出证明,而是解释“为什么这个证明是自然的”、“人们是怎么想到这条路径的”、“这个定义为什么长成这样”的文章。传统数学出版只认可定理和证明——结果是二元的:对或不对。理解的过程、直觉的构建,全都不算成果。

白桦: 他的论据核心是:证明已经不再是理解的可靠代理。

茉莉: 这句话分量很重。为什么会这样? partly因为现代数学的证明越来越长、越来越技术化。一个三百页的证明,验证了每一步都对,但你读完之后可能仍然不知道“为什么这里要用这个引号里的技巧”。证明正确,理解缺席。这就像那个Hacker News公式:数字对,但你不知道算法为什么这样设计。

白桦: 所以Tao的建议本质上是说:我们的评价体系在度量结果,而它应该也开始度量理解。评审一个人,不只看他证明了什么,也看他解释得好不好——因为解释是理解的外化,而理解才是数学真正的产出。

茉莉: 把这两个话题放在一起,你会发现它们的同构性:一个是算法在决定哪些帖子值得被看见,一个是学术体系在决定哪些工作值得被认可。两者都是评价系统,两者都被批评为度量了错误的变量。而改变评价系统之所以难,是因为任何评价一旦成立,人们就会围绕它优化——Goodhart定律。Hacker News上的用户会为排名写作,学者会为引用发表。你换一个度量,就会催生新一轮的博弈。

白桦: 这也留下一个开放问题:有没有可能设计出一个不被博弈的评价系统?目前人类的记录并不乐观。也许答案是:不可能完全避免,只能不断地重新校准——就像那个NSA惩罚项一样,算法永远在追赶它自己造成的问题。

茉莉: 好的,最后两个话题,一个科学上一个法律上,都挺意外的。

白桦: 先说科学的。斯坦福团队在Nature Neuroscience上发表了一项研究,内容可能会改写神经发育的基本叙事。

茉莉: 他们发现人类大脑拥有两种不同的外胚层祖细胞——分别标记为Otx2和Gbx2。

白桦: 我先解释一下背景。传统上,教科书里的叙事是:胚胎的外胚层分化出神经组织,然后统一发育成大脑。一个来源,一条路径。

茉莉: 这项研究说:不是。大脑的两个部分,可能来自两群完全不同的祖细胞,各自沿着自己的路径发育,最后拼在一起。用他们的话说,大脑可能不是一个器官,而是两个在演化上并行发展的器官。

白桦: 这个如果成立,影响有多大?它不只是修正一个发育生物学的细节——它会改变我们怎么理解大脑的演化历史,也可能改变我们对某些神经发育疾病的思考方式,因为如果两个系统是独立起源的,它们的失败模式可能也是独立的。

茉莉: 但我要立刻加上必要的克制:这是一个需要更多验证的发现。单一研究、即使发表在顶刊上,也只是问题的开始。两种祖细胞的假说需要在更多模型、更多方法上复现,才能从“令人兴奋的可能性”变成“教科书的新段落”。

白桦: “改写基本叙事”这种话在科学新闻里出现得太多,听众应该习惯于把它读作“值得关注的候选假说”,而不是“已确定的事实”。

茉莉: 好,从可能改写科学的发现,跳到一个钻法律空子的生意,这个我觉得是今天最欢乐的一条。

白桦: 1958年,美国通过了一部法律,禁止交易所在交易所交易洋葱期货。

茉莉: 对,这条法律今天依然有效。背景是当年洋葱价格剧烈波动,洋葱种植者游说国会,说期货投机在伤害他们的生意,于是国会干脆把洋葱期货给禁了。这是美国商品交易法律里一个非常著名的特例——你会发现你在芝加哥商品交易所可以买原油、黄金、活牛、甚至天气的期货,但你买不到洋葱期货。

白桦: 然后有一家公司叫San Francisco Onion Futures Company,做了一件非常直接的事情:他们卖私人的洋葱期货合同。

茉莉: 法律的措辞是“交易所在交易所”。这家公司的解读是:好,那我们不在交易所,我们私下签合同。

白桦: 这就是法律解释学的经典操作。立法者写了一条规则,规则里有一个他们当时没有预见的边界。七十年后,有人拿着放大镜找到那条边界,从缝隙里钻了过去。完全合法——至少在法院说不是之前。

茉莉: 听起来像段子,但它和斯坦福那个研究放在一起,意外地有一个共同主题。

白桦: 是的:老规则被新证据或新做法逼到边缘。大脑的“单一起源”叙事是一个科学规则,被新的细胞谱系证据挑战;1958年的洋葱禁令是一个法律规则,被新的合同结构绕开。规则也好,叙事也好,都是某个时代对世界的最好理解——而世界不会停下来等你更新理解。

茉莉: 从706k参数的模型到1918年的德国密码,从48K的桌面到一亿五千万篇文档的搜索索引,从Hacker News的票数公式到洋葱期货的法律缝隙——今天的每个故事,都是某个人在既定规则的边缘上,找到了一条新的路。

白桦: 感谢收听,我们下期再见。

茉莉: 再见。