OpenAI 执行长 Sam Altman 昨（11）日于个人部落格发表一篇题为《温和的奇点》（The Gentle Singularity）的文章，详细阐述了他对人工智慧（AI）未来发展的愿景。Altman 认为，人类已跨越技术「事件视界」，正迈向数位超级智能时代，且这场变革将以平稳而非突兀的方式展开。
（前情提要：年轻人把ChatGPT当人生攻略器！OpenAI执行长Sam Altman：超过35岁完全跟不上）
（背景补充：Sam Altman从新手老爸看AI未来：人形机器人要来了，你有準备吗？）
OpenAI 执行长 Sam Altman 昨（11）日发表一篇题为《温和的奇点》（The Gentle Singularity）的文章，详细阐述了他对人工智慧（AI）未来发展的愿景。Altman 认为，人类已跨越技术「事件视界」，正迈向数位超级智能时代，且这场变革将以平稳而非突兀的方式展开。
在这篇部落格文章中，Altman 提出的几个核心观点包括：
- 当前 AI 系统已在多方面超越人类能力，数亿人每天依赖其完成重要任务，显示 AI 已深度融入日常生活。他预测，2025 年将出现能执行认知工作的 AI 代理，2026 年 AI 系统可能产生全新洞见，2027 年则有望见到实体机器人执行现实世界任务。
- Altman 强调，2030 年代将迎来智能与能源的极大丰富，推动科学进步与生产力飞跃，生活品质将大幅提升。他指出，AI 加速自身研究的递归自我改进，以及自动化资料中心与机器人供应链的自我强化循环，将使智能成本趋近电力成本，从而实现「智能过于廉价而无需计量」的未来。
- 然而，他也承认挑战，包括 AI 对齐问题（确保 AI 符合人类长期利益）与超级智能的公平分配。他建议，解决对齐问题后，应专注让超级智能廉价且广泛可用，避免过度集中于少数个人或公司手中，以促进社会适应与公平。
以下为 Sam Altman 部落格文章《The Gentle Singularity》全文。
温和的奇点
虽然部分工作可能消失，但新机会与财富将涌现
我们已越过事件视界，起飞已经开始。人类即将打造出数位超级智能，至少到目前为止，这一切远比想像中来得不那么怪异。
街上尚未见到机器人四处行走，多数人也还没整天与人工智慧（AI）对话。人们仍会因疾病去世，我们仍无法轻易前往太空，宇宙中还有许多我们不理解的事物。
然而，我们最近已建构出在许多方面比人类更聪明的系统，这些系统能大幅提升使用者的产出。最不可能的部分已成为过去；让我们打造出像 GPT-4 和 o3 这样系统的科学洞见来之不易，但将带领我们走得很远。
AI 将以多种方式为世界做出贡献，但 AI 推动更快科学进步和提升生产力所带来的品质提升将是巨大的；未来可能远比现在美好得多。科学进步是整体进步的最大驱动力；想像我们能拥有更多，这是多么令人兴奋的事。
从某种重要意义上说，ChatGPT 已经比任何曾经存在的人类更强大。数亿人每天依赖它，且用于越来越重要的任务；一个小小的全新功能就能带来极大的正面影响；一个小小的偏差乘以数亿人则可能造成巨大的负面影响。
2025 年见证了能执行真正认知工作的代理（agents）的到来；撰写电脑程式码将永远改变。2026 年可能会出现能发现全新洞见的系统。2027 年或许会有能在现实世界中执行任务的机器人出现。
更多人将能创造软体和艺术。但世界对这两者的需求也更大，专家可能仍远优于新手，只要他们拥抱新工具。总的来说，到 2030 年，一个人能完成的工作量远超 2020 年，这将是个惊人的变化，许多人将会找到如何从中受益的方法。
在最重要的方面，2030 年代可能不会与现在有太大不同。人们仍会爱家人、表达创意、玩游戏、在湖中游泳。
但在某些仍然非常重要的方面，2030 年代可能与以往任何时代截然不同。我们不知道智能能超越人类水平到什么程度，但我们即将来探知答案。
在 2030 年代，智能与能源，创意以及实现创意的能力，将变得极为丰富。这两者长久以来一直是人类进步的根本限制因素；有了充足的智能与能源（以及良好的治理），我们理论上可以拥有任何东西。
我们已经与惊人的数位智能共存，经过最初的震撼后，多数人已相当适应。很快地，我们从惊叹 AI 能生成一段优美文字，到好奇它何时能写出一部优美小说；从惊叹它能做出救命的医疗诊断，到好奇它何时能开发出治疗方法；从惊叹它能创建小型电脑程式，到好奇它何时能创建一家全新公司。这就是奇点的进程：奇蹟变成日常，然后成为基本要求。
我们已听到科学家表示，他们的生产力是 AI 出现前的两到三倍。先进 AI 之所以引人注目，有许多原因，但最重要的大概是我们能用它来加速 AI 研究。我们可能发现新的计算基板、更好的演算法，甚至更多未知的东西。如果我们能在一年的时间内完成十年的研究，甚至一个月，那进步的速度显然会截然不同。
从现在起，我们已建构的工具将帮助我们获得更多科学洞见，并协助我们打造更好的 AI 系统。当然，这与 AI 系统完全自主更新其程式码不同，但这仍是递归自我改进的雏形。
还有其他自我强化的循环正在发挥作用。经济价值的创造已启动了一个不断扩张的基础设施建设飞轮，用以运行这些日益强大的 AI 系统。而能製造其他机器人的机器人（以及某种程度上，能建造其他资料中心的资料中心）已不远。
如果我们必须以传统方式製造第一批一百万个人形机器人，但随后它们能运作整个供应链，挖掘和精炼矿物、驾驶卡车、营运工厂等，来製造更多机器人，进而建造更多晶片製造厂、资料中心等，那进步的速度显然会截然不同。
随着资料中心生产自动化，智能的成本最终应趋近于电力的成本。（人们常好奇 ChatGPT 一次查询耗费多少能源；平均一次查询使用约 0.34 瓦时，相当于烤箱运行一秒多一点，或高效灯泡运行几分钟。一次查询还使用约 0.000085 加侖的水，大约是十五分之一茶匙。）
技术进步的速度将持续加速，而人类适应几乎任何事物的能力也将持续存在。一些挑战会很艰难，例如整类工作消失，但另一方面，世界将迅速变得更加富裕，我们将能认真考虑以前无法想像的新政策。我们可能不会立即採纳新的社会契约，但几十年后回顾，渐进的变化将累积成重大改变。
如果历史有任何启示，我们将找到新的事情去做、新的东西去渴望，并迅速吸收新工具（工业革命后的职业变迁是近期的好例子）。期望会提高，但能力也会同样快速提升，我们都将获得更好的东西。我们将为彼此建造越来越美好的事物。人类相较于 AI 有一个长期且重要的优势：我们天生关心他人以及他们的想法和行为，而对机器则不那么在意。
一千年前的农民若看到我们许多人的工作，会说我们有「假工作」，认为我们只是为了娱乐自己在玩游戏，因为我们有充足的食物和难以想像的奢侈品。我希望我们能看到一千年后的工作，觉得它们是非常「假的工作」，但我毫不怀疑，对从事这些工作的人来说，它们将极为重要且令人满足。
新奇蹟的实现速度将是惊人的。今天很难想像 2035 年我们会发现什么；也许我们会从某年解决高能物理问题，到下一年开始太空殖民；或从某年实现材料科学的重大突破，到下一年开发出真正的高频宽脑机介面。许多人可能选择以相似的方式生活，但至少一些人可能会决定「接入」。
展望未来，这听起来难以理解。但实际经历时，可能会觉得令人印象深刻却可应对。从相对论的角度看，奇点是一点一滴发生的，融合也是缓慢进行的。我们正沿着指数型技术进步的长弧攀登；向前看总是陡峭的，向后看则显得平坦，但这是一条平滑的曲线。（回想 2020 年，若说到 2025 年接近通用人工智慧（AGI），听起来可能比我们现在对 2030 年的预测更疯狂，而过去五年实际上又是如何。）
除了巨大的潜力外，也需面对严峻挑战。我们需要解决技术与社会层面的安全问题，但随后，鉴于经济影响，广泛分配超级智能的存取权至关重要。最佳前进路径可能是：
- 解决对齐问题，确保我们能稳健地保证 AI 系统长期学习并朝我们集体真正想要的方向行动（社群媒体馈流是对齐失败的例子；这些背后的演算法极擅长让你持续滑动，清楚了解你的短期偏好，但它们通过利用你大脑中的某种机制，覆盖了你的长期偏好）。
- 然后专注于让超级智能变得廉价、广泛可用，且不集中在任何个人、公司或国家手中。社会具有韧性、创造力，且适应很快。如果我们能利用人们的集体意志与智慧，儘管会犯许多错误，有些事情会严重出错，但我们将快速学习与适应，并能利用这项技术实现最大利益与最小风险。在社会必须决定的广泛界限内，给予使用者很大自由度似乎非常重要。世界越早开始讨论这些广泛界限是什么，以及如何定义集体对齐，越好。
我们（整个产业，而不仅是 OpenAI）正在为世界打造一颗大脑。它将极为个人化且易于所有人使用；我们的限制将是好点子。长久以来，创业圈的技术人员常嘲笑「点子人」，那些有想法却寻找团队实现的人。现在看来，他们即将迎来属于他们的时代。
OpenAI 如今有许多面向，但在一切之前，我们是一家超级智能研究公司。我们面前有许多工作，但前方的道路大多已被照亮，黑暗区域正快速消退。我们对能从事这份工作感到无比感恩。
智能廉价到无需计量的时代已近在咫尺。这话听起来可能疯狂，但如果我们在 2020 年告诉你，我们会走到今天这一步，可能比我们现在对 2030 年的预测听起来更疯狂。
愿我们平稳、指数级且无波折地迈向超级智能。
相关文章