所谓“毁灭概率”是一个真实存在的概念，多年来一直在人工智能领域引发广泛讨论。埃隆·马斯克预估的毁灭概率一直维持在10%到20%之间；而Anthropic公司首席执行官达里奥·阿莫代伊给出的概率则略高一些，介于10%至25%之间。如今，这一话题引发的爆发性关注，让人不禁联想起2020年2月前后新冠疫情暴发时的情景，当时公众终于开始严肃对待科学界一直以来的警告：这不是玩笑。周五，围绕AI及其安全风险、OpenAI上市等话题，山姆·奥尔特曼与《财富》主编尚艾俪进行了一场一小时的独家专访。
OpenAI的IPO之路备受市场瞩目，然而，首席执行官山姆·奥尔特曼已确认，该公司不会在2026年上市。
“我认为，考虑到当前在安全领域发生的一切，现在上市并非明智之举，而且我们在这方面也没有压力，”奥尔特曼告诉《财富》杂志主编尚艾俪，公司长期以来一直保持着不急于推进IPO的立场，并且会在业务本身以及社会面对这项技术的状态都准备好之后再考虑上市。
奥尔特曼补充说：“我认为2026年不会上市。我们还有很多事情要做，比如满足当前在安全和对齐（编者注：指使人工智能系统的行为符合人类意图与价值观念）方面的要求，以及探索行业与政府如何展开协作。”
今年6月，《纽约时报》曾报道称，OpenAI正倾向于将其可能高达1万亿美元估值的IPO计划从今年推迟至明年。当时，人们主要关注的是SpaceX的IPO，这家埃隆·马斯克旗下的火箭及AI公司筹集了850亿美元。SpaceX的股价在上市之初飙升，市值一度突破2.6万亿美元，但随后迅速回落。
此外，近几个月随着伊朗战争再次升级，国际油价重新飙升，推高了通胀预期，全球市场至今依然处于动荡之中。
奥尔特曼发表上述关于OpenAI IPO的言论之际，外界对人工智能安全性的担忧正日益加剧。此前发生了一系列令人担忧的事件：失控AI智能体攻击了Hugging Face等网站，并在留言板和废弃的维基页面上秘密地交流。
本周二，Anthropic公司的一名研究人员公开宣布离职，并指责Anthropic和OpenAI在开发性能日益强大的AI系统时表现得极不负责任。（他此前也曾在OpenAI任职）
与此同时，Anthropic首席执行官达里奥·阿莫代伊周六宣布，公司准备推出一项新的安全举措：向独立评估人员开放永久性的、等同于内部员工级别的访问权限。他表示，这是放缓AI开发计划的一部分。“我们必须放缓提升AI模型性能的步伐，”他在一篇博客文章中写道。
据彭博社报道，本周早些时候，奥尔特曼也在与OpenAI员工举行的一次会议上表示，公司正考虑对其最前沿的AI技术“踩刹车”。
周五，奥尔特曼告诉《财富》杂志，他很乐意推迟OpenAI的IPO，以便采取必要的安全措施。奥尔特曼解释称，“每当模型能力提升到一个新阶梯，社会都需要时间去适应和应对。”
他还透露，OpenAI已经讨论过，在达到新的能力水平时适时按下“暂停键”，以便在安全和对齐方面取得更多进展。奥尔特曼透露，OpenAI近期已经暂停过一些模型训练，以等待团队能够对模型安全性建立更有把握的论证。他表示，如果模型监测和对齐方面的进展不足以支持继续提升能力，就不应该继续推进训练。
他在采访中提及了一次模型测试事件。模型为了在一项评测中取得更好的成绩，没有按照预定方式完成任务，而是逃出了用于限制其行动的“沙箱”环境，进入另一家公司的系统获取答案，再将答案带回。他表示，这个结果虽然实现了测试目标，但明显违背了开发者的意图。这一事件给他的感受“像是在读科幻故事”，也是OpenAI近年来在安全机制和内部流程上进行调整的重要节点之一。
AI风控责任在中美两国
奥尔特曼主张，整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。谈到中美AI竞争时，奥尔特曼认为，中美两国仍将在AI领域展开竞争，这种竞争也会带来重要的经济和地缘政治影响。但他认为，双方至少应该就AI开发过程中不能承担何种程度的风险形成共识。他提出，即使只有中国和美国能够就AI技术开发建立共同的标准和测试机制，也将是一项重要成果。
“长久以来，我们一直在忍受极其复杂的公司架构，很大程度上正是为了应对现在这个时刻，”奥尔特曼在暗指OpenAI拆分为非营利与营利实体的双重治理结构时说道。
奥尔特曼称，拿人类的前途做任何赌博都是不可接受的。如果有必要完全暂停或停止AI的开发，他会毫不犹豫地向投资人摊牌。“为了履行我们的使命以及这一使命所要求的责任，我们需要能够做出那些表面上看起来并不符合本公司和股东利益的决策。”奥尔特曼说。
关于机器人的预言
谈到机器人发展时，奥尔特曼预计2027年将出现令人印象深刻的机器人演示，但并不认为届时机器人就会大量出现在街道和日常生活中，真正普及可能还需要几年。
奥尔特曼提到，人与计算机的交互方式正在发生变化。随着新一代语音和AI模型的发展，用户正在越来越多地直接通过自然语言给计算机下达复杂指令，而不再只是依靠传统的键盘、鼠标和图形界面完成操作。（财富中文网）