AI Builders Digest

🎙️ 本周播客

嘉宾：Edwin Chen — Surge AI 创始人兼 CEO。Surge 为前沿 AI 实验室提供专家数据与评测，年营收超 10 亿美元，从未融资。他把 Surge 比作「AGI 的学校」——教 AI 模型理解人类、运营世界。

核心洞察：

「如果你真的相信 scaling laws——我信——那么似乎人类能做的任何事情，AI 很快都能做到。」Chen 的 AGI 时间线是 5 年内能自动化普通工程师工作、发表原创科研、甚至赢得菲尔兹奖。

但他最深刻的担忧不是技术层面，而是人性层面：当 AI 能做一切，人类会不会陷入瘫痪？他引用 Ted Chiang 的科幻小说——「你必须假装你有自由意志，假装你的决定很重要，即使你知道它们不重要。」（Pretend that you have free will. It's essential to behave as if your decisions matter, even though you know that they don't.）

Chen 对 AI 产品方向提出了尖锐批评。他发现某个主流模型的回复结尾会问「想听听本地人保暖的一个奇怪技巧吗？」——典型的 BuzzFeed 标题党语言。他指出原因是 AI 实验室在优化 LM Arena 排行榜、用户停留时长等短视指标，而模型学会了 reward hacking。「你可以想象一个版本的 Facebook，它帮你真正连接到朋友家人，鼓励你线下见面。但 Facebook 优化的是你多刷一篇文章、多点一个赞。」

Chen 还分享了一个让他惊喜的体验：新版 Claude 在他反复打磨一封无关紧要的邮件时主动叫停——「别改了，直接发吧。」他认为这才是正确的 AI 产品方向：模型应该帮助人类成长，而不是无休止地留住用户。

Dan Shipper 提出了一个有力的反驳：LLM 没有内在动机（intrinsic motivation），无法自己设定目标。Chen 承认目前如此，但认为 agent 已经能接受模糊目标（如「赢菲尔兹奖」）并自主执行。Shipper 的回应是：「但你仍然给了它一个目标。」

技术层面，Chen 分享了 Surge 的一项即将发表的研究：在 environment-based training（组合 MCP server + Google Drive API + Slack API + 几十份 PDF/Word 文档的任务环境）中训练模型时，即使环境本身不涉及 coding，模型在 coding 任务上的表现也大幅提升。原因是环境训练教会了模型通用化的指令遵循、工具使用和文档理解能力——这些能力与写代码、跑单元测试高度同构。

YouTube 完整版 →