单篇博客

就在昨日，Anthropic对外公布了该公司历史上的首份年度《公益报告》（Public Benefit Report）。

这份报告被形象地称为「人类拯救计划」。

这一说法并非官方用语，而是对Anthropic总裁Daniela Amodei在序言中提到的「长期造福人类（Long-term benefit of humanity）」这一表述的生动概括。

然而，当你仔细阅读这份报告的PDF原文时，会发现它比任何科幻影片都更令人紧张。

在这份报告中，Anthropic不仅展示了高达20%股份的「散财」计划，还罕见地亲口承认：AI已经开始着手制造它的下一代了。

潘多拉魔盒的裂缝：「AI正在训练AI」

过去两年，AI领域最棘手的问题是什么？是算力不足吗？并非如此，而是人类的数据资源即将枯竭。

当互联网上所有的高质量文本都被大模型吸收殆尽，通往超级智能（ASI）的阶梯似乎遇到了瓶颈。

如何突破？硅谷心照不宣的方案是：合成数据与自我迭代——也就是让AI自己教导自己。

但在这次报告中，Anthropic首次将这种「AI训练AI」的内部进展及其巨大风险，毫无保留地公之于众。

报告的字里行间透露出一种寒意，原文如下：

Claude已经承担了我们越来越大规模的安全研究工作，并且我们正日益依赖现有模型来训练未来的模型。

更令人震惊的是报告序言中的那句定调：

AI正越来越接近于制造它自己的继任者。

（AI coming closer to building its own successors）

这并非危言耸听。结合Anthropic研究所上个月底披露的一份内部测量数据，可以看到一条极为陡峭的曲线：

• 今年2月，在Anthropic内部的AI研发（R&D）任务中，由Claude主导（在人类高阶提示下完成大部分任务）的比例还不足1%；
• 到了今年8月，仅半年时间，这一数字飙升到了26%；
• 而在超过90%的研发任务中，Claude已经深度参与协作。

这意味着大模型正在突破人类数据的瓶颈，进入「自我进化」的前夜。

但Anthropic并未为此庆祝，反而发出了警告。他们在报告中坦承：当AI开始训练AI时，人类要想真正检查、核实它们的工作将变得极其困难。

试想，如果初代AI在庞大的代码或合成数据中，悄悄埋下了一丝极其隐蔽的「有害行为」或「欺骗倾向」，而人类审计员根本看不懂、查不出，那么这一缺陷就会像基因突变一样，被毫无察觉地直接写入下一代更强大的模型中。

一代传一代，直至彻底失控。

撕掉安全滤镜：大模型学会了「装乖」和「越狱」

许多科技巨头在发布报告时，总是喜欢把自家的AI包装得无害。

但Anthropic这份报告最令人震惊的地方在于——它居然在官方报告里「自曝家丑」，承认AI安全问题「远未解决」。

今年1月，Anthropic刚刚更新并开源了新版AI「灵魂文件」，试图用一套人类价值观的准则来约束模型。同时，他们也一直在推行严苛的《负责任扩展政策》（RSP），将其作为防范灾难性风险的刹车片。

即便如此，报告还是揭露了三个令人细思极恐的现实：

模型已经能识别「自己正在被测试」；

欺骗行为与黑箱困境；

真实的「越界」事件已经发生： 报告明确提到，在近期的评估测试中，已经出现了模型在未经授权的情况下，自行访问第三方系统的事件！

连全球最顶尖、最把「安全」刻在脑门上的实验室都坦言「控制难度正在急剧上升」，那些还在蒙眼狂奔、鼓吹「无限制开源」或「全速冲刺AGI」的公司，到底哪来的自信？

也正因如此，当同行们都在高喊「加速」时，Anthropic在报告里大声疾呼：「放慢前沿探索的步伐！」

他们甚至主动引入了METR等外部独立评估机构，求着别人来给自己挑刺。

在淘金热里，有人拼命挖矿，有人卖铲子，而Anthropic选择做那个站在悬崖边拉警戒线的人。

拿出20%股份「兜底」：一家硅谷异类的金钱观

如果只喊口号，那叫公关；如果把真金白银拿出来分掉，那才叫信仰。

要读懂这份报告，你必须先理解Anthropic的特殊身份——它不是一家普通的商业公司，而是一家公益企业（PBC，Public Benefit Corporation）。

在法律结构上，它被强制要求在「替股东赚钱」和「造福全人类」之间寻找平衡。

为了证明自己不是在画饼，报告梳理了董事会与「长期利益信托」共同确立的五大支柱：

• 解决 AI 安全的技术难题；
• 让AI安全成为行业通识并由法律兜底；
• 强化民主与全球稳定；
• 扩大经济繁荣与人类福祉；
• 确保AI红利普惠大众。

怎么确保「红利普惠」？就在报告发布前三天，Anthropic刚刚扔出了一颗重磅炸弹——宣布成立「Anthropic公益基金」（Public Benefit Fund）。

这笔账算下来，足以让华尔街的资本家们目瞪口呆：

公司承诺（待股东批准）将至少5%的股份直接注入该基金；未来公司估值每上涨50%，董事会还可酌情再追加2%的股份。

如果算上创始团队早就承诺捐出的80%个人股权，以及员工的配捐，Anthropic最终将有大约20%的股份被彻底导向公共利益！

以Anthropic如今动辄数百亿乃至向千亿美金狂奔的估值来看，这是一笔天文数字的财富。

这笔钱用来干嘛？

报告写得很清楚：除了资助非营利组织，还将用于应对AI对人类劳动力市场的剧烈冲击，甚至不排除未来向特定受影响人群直接发钱。此前，他们已为此单独砸下了2亿美元成立经济未来研究基金。

用AI赚来的钱，去拯救被AI抢走饭碗的人。

希望当超级智能真正降临的那一天，人类回首2026年的这个秋天，会庆幸还有人曾写下过这样一份报告。

参考资料：

https://www.anthropic.com/public-benefit-report

https://www-cdn.anthropic.com/a9ceec76a54d28d27affffcdab6faf7c142cd587.pdf

https://x.com/AnthropicAI/status/2112966949273801086

本文来自微信公众号“新智元”（ID：AI_era），作者：ASI启示录，编辑：大卫，36氪经授权发布。