如果不是被起诉，我们永远都不会知道，Anthropic在2021年就已经完美地预言了现在的AI发展。 我刚看完这份 @AnthropicAI 在诉讼中曝光的内部文件，叫《Concise Research Roadmap》，最后更新于2021年7月。 这份文件由Anthropic联创Jared Kaplan撰写，里面还保留了 @DarioAmodei 、 @NotTomBrown 、 @AmandaAskell 、 @ch402 等一批核心研究人员的内部评论。 文件上甚至还标着「Highly Confidential–Attorneys' Eyes Only」（高度机密，仅限律师查阅）。 我仔细看完之后，真的有点感慨。 因为今天我们讨论的Coding Agent、Tool Use、长上下文、RL、自动化反馈，甚至Agent的安全问题，在这份五年前的研究路线图里，基本都已经出现了。 而且远不只是一些模糊的概念。 首先，Anthropic在2021年就已经明确提出，要做一个具备软件工程师能力的AI助手。 在文件第一页，他们就写道，希望开发一个通用AI助手，可以通过对话帮助用户创建、编辑和解释软件。 包括开发浏览器插件、编写函数、发现Bug、设计API、讨论代码风格和最佳实践等等。 最终目标是让AI展现出一名软件工程师同事所具备的能力。 你会发现，这不就是今天Claude Code正在做的事情吗？ 更有意思的是，他们当时就认为，要实现这个目标，需要大规模生成模型、长期记忆，以及通过自动化奖励和人类反馈进行强化学习。 甚至连Roadmap都已经想得非常清楚了。 第二，他们当时就专门把RL for Tool Use列成了一项重要研究方向。 研究的核心是让大语言模型学会使用工具，理解环境和目标，并通过强化学习不断改进。 当时他们提出的具体任务包括搜索、printf调试等，还准备研究工具使用能不能让模型获得比监督学习更好的Scaling效果。 今天Agent领域讨论的一大堆问题，五年前他们就已经开始思考了。 第三，最让我意外的是，他们当年甚至就在讨论Coding Agent的产品形态。 Tom Brown提出，代码仓库浏览是一个简单而有价值的工具，可以从这里开始。 Nelson Elhage则表示，如果AI能够主动查找项目中的类型定义，会是一项很强的能力。 Andy Jones进一步提出了两条不同的路线。 一条是打造最优秀的AI程序员，另一条是先验证AI使用工具的能力。 Dario Amodei的回答是：短期优先后者，长期优先前者。 而且同一份文件里，Sam McCandlish就已经开始担心，如何安全地部署非沙箱化工具。 Dario特别强调了部署阶段执行代码的工具。 你再看看今天围绕Coding Agent的Sand box、权限控制和代码执行安全的一系列讨论。 真的很难不感慨。 第四，他们很早就意识到，模型能力和Alignment不能脱节。 Amanda Askell在评论里担心，如果能力研究集中在代码领域，而对齐研究只关注自然语言，那么未来可能会出现模型能力越来越强，但对齐研究无法充分覆盖这些能力的情况。 所以她强调，两者应该紧密结合。 这其实也是今天Agent安全研究面临的重要问题。 我觉得这份文件最有意思的地方，是它让我们重新认识了Anthropic这家公司。 2021年的时候，ChatGPT甚至都还没有发布，整个行业对大语言模型未来能做什么，都还没有今天这么明确的认识。 但Anthropic的这群研究人员，已经把软件工程助手作为通向AGI的一个具体研究目标，并且围绕模型规模、数据、长上下文、工具使用、强化学习和安全，制定了一套相当完整的研究路线。 至少从今天回头看，他们对技术发展方向的判断，确实非常超前。 而且更值得注意的是，这份文件讨论的很多问题，直到2026年都还没有被彻底解决。 五年前他们在思考如何让AI成为软件工程师的同事。 五年后，我们已经开始讨论，如何让AI独立完成整个软件工程任务，甚至参与改进自己的模型和研发系统（AKA：RSI）。 有时候AI的发展看起来快得不可思议，但仔细回头看，你会发现，有些人其实很早就已经知道自己要往哪里走了。

I wrote a blog post detailing the writing approach I took while working on my recent paper: sophielwang.com/blog/paper-w… I describe the behind the scenes for how this paper came to be, why and how I storyboarded figures before running experiments, and some figure design tips! :)

We are offering 10,000 scientists the highest usage tier in Google Antigravity free of charge for 6 months. Please apply! forms.gle/WvmBbPvRbpKG1BPn9

Paper Mono! sooo excited to finally release our free and beautiful mono font it works incredibly well for design, coding, and even prose, and it’s packed with features: variable font weight, coding ligatures, duospacing (!) for long-form text, and more. sound on:

朋友群里看到，这Claude 防封思路好啊！ 用 Claude Code Mod 实现一个隐私插件。 资料信息进入 LLM 前做替换，感觉也能升级下，把对话从中文翻译成英文，从而尽可能隐藏中国人身份？ MD，Anthropic 把大家都弄魔怔了。 开源插件见评论区

Reset all propagated. Enjoy.

OpenAI 出了个 Decisions API，背后跑的是 Luna，专门做实时决策 你提前定好问题和几个候选答案，把文本或者图片传进去，它直接告诉你该选哪个 做路由、决定下一步让哪个 agent 来处理，这种有限选项的场景挺合适的 目前还是 limited preview，说是这几天会更大范围开放 xitter.cf/OpenAIDevs/status/2105…

BREAKING: X and SpaceXAI are looking to Reboot X Premium into the new X Subscription. You will get Cursor, Grok, and X benefits all in one unified plan with more benefits and access to be announced. This is fantastic news!. Here is what the early access announcement looks like on android. I dont know when this will go live but know its been something they have been working on for weeks.

I attended a vibe coding hackathon recently and used the chance to build a web app (with auth, payments, deploy, etc.). I tinker but I am not a web dev by background, so besides the app, I was very interested in what it's like to vibe code a full web app today. As such, I wrote none of the code directly (Cursor+Claude/o3 did) and I don't really know how the app works, in the conventional sense that I'm used to as an engineer. The app is called MenuGen, and it is live on menugen.app. Basically I'm often confused about what all the things on a restaurant menu are - e.g. Pâté, Tagine, Cavatappi or Sweetbread (hint it's... not sweet). Enter MenuGen: you take a picture of a menu and it generates images for all the menu items and presents them in a nice list. I find it super useful to get a quick visual sense of the menu. But the more interesting part for me I thought was the exploration of vibe coding around how easy/hard it is to build and deploy a full web app today if you are not a web developer. So I wrote up the full blog post on my experience here, including some takeaways: karpathy.bearblog.dev/vibe-c… Copy pasting just the TLDR: "Vibe coding menugen was exhilarating and fun escapade as a local demo, but a bit of a painful slog as a deployed, real app. Building a modern app is a bit like assembling IKEA future. There are all these services, docs, API keys, configurations, dev/prod deployments, team and security features, rate limits, pricing tiers... Meanwhile the LLMs have slightly outdated knowledge of everything, they make subtle but critical design mistakes when you watch them closely, and sometimes they hallucinate or gaslight you about solutions. But the most interesting part to me was that I didn't even spend all that much work in the code editor itself. I spent most of it in the browser, moving between tabs and settings and configuring and gluing a monster. All of this work and state is not even accessible or manipulatable by an LLM - how are we supposed to be automating society by 2027 like this?" See the post for full detail, and maybe give MenuGen a go the next time you're at a restaurant!

我感觉现在 Claude Max 套餐的 token 有点回到去年八九月份那么多的态势，感觉 Claude Agent SDK 可能会复兴了