AI 검색 기업 Exa의 CEO, reo3 출시 후 토론: AGI 전야에 대한 생각

序言

最近与几位朋友讨论了O3（OpenAI o3），他们的反应基本可以概括为："天啊，这真的发生了吗？"

是的，这确实正在发生。接下来的几年将会疯狂。这是具有历史意义的时刻，甚至可以说是具有银河系级别的意义。

令人不可思议的是，关于正在发生的事情，却没有深入的讨论。AI实验室不能谈论它，新闻媒体几乎不报道它，政府也不理解它。

讽刺的是，我们竟然通过社交媒体的信息流来讨论人类的未来，这感觉就像一部荒诞的情景喜剧，但现实就是如此。

以下是我对当前形势的一些思考 —— 这是我对X平台思想深渊的贡献。需要注意的是，这些想法都是未经充分思考的有趣猜想。我没有足够的时间去深入思考和研究所有观点，其中很多可能是错误的。但我希望这些想法能够帮助那些正在试图理解当前形势的人们。

O3的影响与发展趋势

技术突破的速度

• O3的出现本不应令人震惊。两个月前，OpenAI就向我们展示了测试时间扩展图表，计算机发展史告诉我们要相信这些趋势线，无论它们看起来多么难以置信。
• 真正令人震惊的是这一切在两个月内就实现了。我们从大学水平的AI跃升到了博士水平的AI。对人类而言，变化是令人兴奋的，但如此快速的变化则令人震惊。

未来发展预测

• O3级别的模型在优化任何可定义奖励函数的任务方面都表现出色。
• 短期内（1年），我们将获得能力不均衡的模型：
  • 在数学、编程和一般推理方面达到AGI水平
  • 在小说创作等领域仍显平庸
• 长期来看（1-3年），随着不断添加新领域的强化学习训练（情感数据、感知数据等），模型的盲点将被逐步修复。

对各领域的影响

数学家的未来

• 数学家可能是最容易被AI取代的群体之一
• 数学工作主要在符号空间进行，与物理世界的接触较少
• 预计在700天内，人类可能不再是已知宇宙中最优秀的数学家

软件工程师的命运

短期影响

• 每个软件工程师都相当于获得了晋升
• 到2025年底，编码将更像是协调小型代理完成各种任务
• 明确规范的PR任务将可以由O4系统完成

长期展望

• 软件工程的本质仍是将需求转化为纯逻辑
• 编程语言的抽象层次将从二进制提升到英语
• 非技术人员也将能够参与编程
• 最优秀的开发者仍是那些能够在不同抽象层次间自如切换的人

物理劳动者与机器人技术

• AI对体力劳动者的影响相对较慢
• 主要瓶颈在于硬件改进和快速可靠的感知行动模型
• 机器人技术的突破性进展可能要等到机器人能够制造机器人、AI能够进行AI研究时才会出现

计算能力与竞争态势

计算资源竞争

• 各大实验室都在建设超级计算集群
• 计算能力可能比模型优势更重要
• 实验室之间的人才流动和信息交流使得技术优势难以持续超过一年

O级模型的特殊影响

• 激励了大规模计算设施的建设
• 可能改变NVIDIA的市场地位
• 开源项目可能通过全球计算资源整合获得优势

科学研究的革命

理论科学领域

• 理论物理学将首先受到影响
• AI可能加速科学理论的产生和验证
• 物理实验和材料获取可能成为进展的瓶颈

风险与挑战

主要风险

1. 人类滥用AI
2. 社会动荡
3. AI失控
4. 国际冲突加剧

监管与社会影响

• 政府监管将成为AI发展的重要因素
• 可能出现恐怖主义和社会崩溃的风险
• 2025年可能是AI还处于相对自由发展阶段的最后一年

향후 전망

乐观预期

• 突破性物理学发现
• 机器人建造的火星和月球基地
• 完美的智能辅导系统
• 零副作用的生物增强药物
• 高效清洁能源系统
• 更多未知的突破性发现

终极目标

• 超级智能的实现
• 物理定律允许的一切可能性
• 生命延长与星际旅行
• 探索宇宙起源

行动建议

对个人的建议

1. 培养高效的问题解决能力
2. 提升团队协作能力
3. 适应快速变化的世界
4. 从个人成功转向追求集体进步

对社会的贡献

1. 开发有助于社会稳定的产品
2. 传播高质量信息
3. 参与地方治理
4. 帮助世界平稳过渡到AI时代

결론

在AGI前夜，我们每个人都肩负着塑造未来的责任。这不仅仅是AI实验室的任务，而是整个人类社会的集体使命。未来可能充满不确定性，但也充满着前所未有的机遇。让我们共同努力，确保这场技术革命带来的是进步而非灾难。