El CEO de OpenAI mira hacia la Economía de la AGI: tres observaciones que revelan un cambio disruptivo en la próxima década

作者： OpenAI 首席执行官 Sam Altman

OpenAI 的使命是确保通用人工智能（AGI）惠及全人类。

OpenAI 认为，指向 AGI 的系统正逐渐显现，因此理解我们所处的时刻至关重要。AGI 是一个定义 слабо 的术语，但一般来说，OpenAI 认为 AGI 是指一种能够在多个领域应对日益复杂的问题，并达到人类水平的系统。

Observaciones: AGI 的定义依然模糊，这反映了当前人工智能发展的前沿性和不确定性。OpenAI 承认其定义的模糊性，也暗示了 AGI 概念仍在演变之中。

人类是工具的构建者，天生具有理解和创造的驱动力，这使得世界对我们所有人来说变得越来越好。每一代人都站在前人的发现之上，创造出更强大的工具——电力、晶体管、计算机、互联网，以及即将到来的 AGI。

随着时间的推移，人类创新的稳步前进，断断续续地为人们生活的几乎每个方面带来了前所未有的繁荣和改善。

在某种意义上，AGI 只是人类共同构建的越来越高的进步支架中的又一个工具。在另一种意义上，AGI 是一个开端，人们很难不说“这次与以往不同”；我们面前的经济增长看起来令人震惊，而且我们现在可以想象一个世界，在那里我们可以治愈所有疾病，有更多的时间与家人共享天伦之乐，并能充分发挥我们的创造潜力。

Observaciones: Sam Altman 描绘了 AGI 驱动的乐观未来，包括医疗突破和生产力提升。然而，这种美好的愿景与 AGI 可能带来的潜在风险和伦理挑战形成了鲜明对比，例如就业 displacement 和权力集中。

也许在十年后，地球上的每个人都将有能力完成比当今最有影响力的人所能完成的更多的事情。

OpenAI 持续看到 AI 开发的快速进展。以下是关于 AI 经济学的三个观察：

1. AI 模型的智能水平大致等于用于训练和运行它的资源量的对数。 这些资源主要是训练计算、数据和推理计算。 看起来，你可以花费任意数量的资金并获得持续且可预测的收益；预测这一点的 scaling laws 在多个数量级上都是准确的。
2. 使用给定水平 AI 的成本大约每 12 个月下降 10 倍，而更低的价格会导致更多的使用。 你可以在 2023 年初 GPT-4 的 Ficha 成本与 2024 年年中 GPT-4o 的 Token 成本中看到这一点，在此期间，每个 Token 的价格下降了约 150 倍。 摩尔定律以每 18 个月 2 倍的速度改变了世界； 这比摩尔定律还要强大得令人难以置信。
3. 智能线性增长的社会经济价值本质上是超指数级的。 由此产生的一个结果是，OpenAI 认为没有理由让指数级增长的投资在近期停止。

Observaciones: 这三点观察揭示了 AI 发展的核心经济驱动力：算力投入与智能提升的正相关性，成本快速下降带来的普及性，以及智能提升的巨大社会经济回报。然而，这种指数级增长的可持续性以及对环境和社会资源的影响值得深入思考。

如果这三个观察持续成立，那么对社会的影响将是巨大的。

OpenAI 现在开始推出 AI agent，它最终会感觉像虚拟同事。

让我们想象一下软件工程 agent 的案例，OpenAI 预计这种 agent 将特别重要。 想象一下，这种 agent 最终将能够完成顶级公司中具有几年经验的软件工程师可以完成的大部分工作，任务时长最多为几天。 它不会有最伟大的新想法，它将需要大量的人工监督和指导，并且它会在某些方面非常出色，但在另一些方面却出奇地糟糕。

尽管如此，还是可以将它想象成一个真实但相对初级的虚拟同事。 现在想象一下 1,000 个这样的 agent。 或者 100 万个。 现在想象一下每个知识工作领域的这种 agent。

Observaciones: AI agent 的出现预示着工作模式的深刻变革。Sam Altman 强调了 AI agent 作为“虚拟同事”的潜力，尤其是在软件工程等知识密集型领域。然而，对于 AI agent 在创意性、复杂问题解决和人际互动方面的局限性，以及对现有工作岗位的潜在冲击，仍需进一步观察。

在某些方面，AI 最终可能在经济上像晶体管一样——一项大规模的科学发现，可以很好地扩展并渗透到经济的几乎每个角落。 我们不怎么考虑晶体管或晶体管公司，收益分布非常广泛。 但是我们确实希望我们的计算机、电视、汽车、玩具等能够创造奇迹。

世界不会一下子改变； 从来没有这样。 短期内生活将基本照旧，2025 年的人们将主要以与 2024 年相同的方式度过他们的时间。 我们仍然会坠入爱河，组建家庭，在网上争吵，在自然界中远足等等。

但是未来将以一种不可忽视的方式向我们走来，并且对我们社会和经济的长期改变将是巨大的。 我们将找到新的事情要做，新的方式来彼此有用，以及新的方式来竞争，但它们可能与今天的工作大相径庭。

能动性、意志力和决心可能会非常宝贵。 正确决定做什么以及弄清楚如何在不断变化的世界中航行将具有巨大的价值； 韧性和适应性将是有助于培养的技能。 AGI 将成为人类意志力有史以来最大的杠杆，并使个人比以往任何时候都更有影响力，而不是更少。

OpenAI 预计 AGI 的影响是不均衡的。 虽然一些行业的变化很小，但科学进步可能会比今天快得多； AGI 的这种影响可能会超越其他一切。

许多商品的价格最终将大幅下降（目前，智能成本和能源成本限制了很多东西），而奢侈品和一些天生稀缺的资源（如土地）的价格可能会更加急剧地上涨。

从技术上讲，OpenAI 面前的道路看起来相当清晰。 但是关于我们应该如何将 AGI 融入社会的公共政策和集体舆论非常重要； OpenAI 尽早且频繁地推出产品的原因之一是让社会和技术有时间共同进化。

Observaciones: OpenAI 强调了技术发展与社会适应的同步性。尽早推出产品，让社会有时间适应和塑造 AGI 的发展方向，这是一种积极的策略。然而，这种“共同进化”的过程中，如何平衡创新速度、伦理考量和社会公平，仍然是一个复杂的问题。

AI 将渗透到经济和社会的各个领域； 我们将期望一切都变得智能。 OpenAI 的许多人期望需要给予人们比以往更多的对技术的控制权，包括更多地开源，并接受在安全性和个人赋权之间存在需要权衡的平衡，。

虽然 OpenAI 从不希望鲁莽行事，并且可能存在一些与 AGI 安全相关的重大决策和限制，这些决策和限制将不受欢迎，但从方向上看，随着 OpenAI 越来越接近实现 AGI，OpenAI 认为更多地倾向于个人赋权非常重要； OpenAI 可以看到的另一种可能的路径是 AI 被专制政府用来通过大规模监视和丧失自主权来控制其人口。

确保 AGI 的 benefits 得到广泛分配至关重要。 技术进步的历史影响表明，我们关心的绝大多数指标（健康结果、经济繁荣等）平均而言和长期来看都会变得更好，但是，提高平等似乎并非由技术决定，而要做好这一点可能需要新的思路。

Observaciones: Sam Altman 表达了对 AGI 潜在的负面应用场景的担忧，例如威权政府利用 AI 进行社会控制。同时，他也强调了在安全性和个人赋权之间取得平衡的重要性，以及确保 AGI 惠及所有人的必要性。这种对技术双刃剑的清醒认识值得肯定。

特别是，资本和劳动力之间的力量平衡似乎很容易被搞砸，这可能需要早期干预。 OpenAI 对一些听起来很奇怪的想法持开放态度，例如给予一些“计算预算”以使地球上的每个人都能够使用大量 AI，但 OpenAI 也看到了很多方法，仅仅是无情地降低智能成本就可以达到预期的效果。

2035 年的任何人应该都能够调动相当于 2025 年所有人的智力能力； 每个人都应该有权获得无限的天赋，并以他们能想象到的任何方式进行指导。 现在有大量人才缺乏充分表达自己的资源，如果我们改变这种状况，世界由此产生的创造性产出将为我们所有人带来巨大的 benefits。

特别感谢 Josh Achiam、Boaz Barak 和 Aleksander Madry 审阅了草稿。

*在此处使用 AGI 术语，OpenAI 旨在清晰地沟通，并且 OpenAI 无意更改或解释定义 OpenAI 与 Microsoft 关系的定义和流程。 OpenAI 完全希望与 Microsoft 长期合作。 这个脚注似乎很傻，但另一方面，OpenAI 知道一些记者会试图通过写一些愚蠢的东西来获得点击量，所以 OpenAI 在这里先发制人地阻止这种愚蠢行为……

Observaciones: OpenAI 在文末的脚注中，特意强调了与微软的长期合作关系，并预先反驳了可能出现的“炒作”式解读，这体现了 OpenAI 在技术发展和商业合作上的谨慎态度。