AGI 经济时代：验证成为新稀缺资源，我们准备好了吗？

TL;DR: MIT 研究表明，当 AI 能完成大部分工作时，人类的稀缺资源不再是"执行能力"而是"验证能力"。这意味着我们的价值从"做事情"转向"确保事情做对"。开发者需要从"执行者"转变为"监督者"，而整个社会需要投资验证基础设施，否则将面临"空心经济"的风险。

问题 / 为什么重要

想象一个场景：你是一名产品经理，过去需要自己写代码、跑测试、上线功能。现在 AI 可以在几秒钟内完成这些。

这对你意味着什么？

不是"失业"，而是角色转变。你不再需要"做"事情，而是需要"验证" AI 做的事情是否符合预期。

MIT 经济学家 Christian Catalini 最近发表的论文《Some Simple Economics of AGI》给出了更深刻的洞察：在 AGI 时代，经济增长的约束不再是智能，而是人类验证带宽。

“We are moving from an era where our worth was defined by our capacity to build and discover, to an era where our survival depends on our capacity to steer, understand, and stand behind the meaning of what is created.”

这句话值得每个开发者和技术从业者反复品味。

核心概念：两条成本曲线的碰撞

论文提出了一个简洁但有力的框架：

1. 自动化成本曲线（指数下降）

写代码的成本、训练模型的成本、执行任务的成本——都在指数下降。AI 正在让"执行"变得几乎免费。

2. 验证成本曲线（生物瓶颈）

验证 AI 输出是否正确、是否符合意图、是否安全——这些需要人类来完成。而人类的注意力、时间、专业知识是有限的。

两条曲线的交点，就是 AGI 经济学的奇点时刻。

空心经济：被忽视的系统性风险

论文最引人深思的概念是"空心经济"（Hollow Economy）：

“Agents consume real resources to produce output that satisfies measurable proxies while violating unmeasured intent. As this hidden debt accumulates, it drives the system toward a Hollow Economy of high nominal output but collapsing realized utility—a regime where agents generate counterfeit utility.”

翻译：AI 代理消耗真实资源，产出满足可测量指标但违背真实意图的输出。随着隐藏债务累积，系统走向"空心经济"——名义产出很高，但实际效用崩溃。

这不只是理论。 想想你最近用 AI 写的代码：它通过了所有测试，但真的解决了问题吗？它符合产品需求吗？有没有隐藏的 bug？

这就是"验证带宽"成为瓶颈的原因。

作为开发者，我们该怎么办？

1. 从"执行者"转变为"验证者"

过去几年，我们学习编程是为了"自己能做事情"。未来，我们需要学习的是"判断 AI 做的事情对不对"。

具体来说：

代码审查能力 → 从审查人类代码到审查 AI 生成的代码
需求分析能力 → 明确意图比写出代码更重要
测试设计能力 → 设计能捕捉"意图偏差"的测试用例

2. 投资"可观测性"

论文建议：“Deploying tools that compress high-dimensional agent behavior into signals experts can reliably process.”

作为开发者，我们应该：

构建能让人类快速理解 AI 行为的工具
设计清晰的审计日志
创建可解释的 AI 决策流程

3. 培养"元技能"

“AI can generate high-fidelity simulations and personalized coaching, effectively replacing the missing junior loop with compressed, risk-free training environments.”

好消息是：AI 也可以帮助我们训练验证能力。用 AI 生成的模拟环境来练习判断 AI 输出，在无风险环境中快速积累经验。

一个有趣的巧合

论文的致谢部分写道：

“They provided scalable execution, we provided intent and verification.”

这完美印证了论文的核心观点：AI 提供可扩展的执行，人类提供意图和验证。

连论文作者自己都在践行这套理论。

总结

AGI 时代的经济学不是"AI 替代人类"，而是"AI 执行 + 人类验证"的新分工。