一个安静的离开，一个刺耳的信号
Aleksander Madry走了。
他不是OpenAI的普通员工。他是"preparedness"负责人——用行业话说，就是那个应该踩刹车的人。他的工作是评估AI系统可能带来的风险，在模型发布前判断它是否足够安全。
去年夏天，他被调离了安全岗位，转去做AI推理研究。当时就有人觉得奇怪：一个做安全的人，为什么被安排去做模型能力研究？
现在他彻底离开了OpenAI。他在帖子中说，要去研究"AI对经济的影响"。
礼貌，体面，但字里行间的意思很清楚：我在这里已经做不了想做的事了。
OpenAI的"安全叙事"正在崩塌
曾几何时，OpenAI的名字本身就带着一种使命感。"Open"——开放。"AI"——让全人类受益的人工智能。Sam Altman到处演讲，说的是AGI要安全地到来，要让所有人受益。
但现实是另一回事：
- 从非营利到营利。 OpenAI早就从非营利组织转型为" capped-profit"公司，投资者的回报压力越来越大。
- 闭源转向。 曾经承诺开放模型和研究的OpenAI，现在对最先进的模型闭源处理。
- 安全团队边缘化。 Madry被调离安全岗位不是孤立事件。据报道，OpenAI内部安全团队的话语权在持续下降，而产品团队的话语权在上升。
这不是说OpenAI在做坏事。这是说：当一个组织面临增长压力时，"安全"往往是第一个被妥协的东西。 不是因为领导者变成了坏人，而是因为商业逻辑天然倾向于速度而非审慎。
被调岗，然后离开——这条路径并不新鲜
Madry的经历在科技行业并不罕见。
当一个公司的战略重心从"做正确的事"转向"做能赚钱的事"，安全、合规、伦理这些部门的地位就会发生变化。它们不会被关闭——那太难看了。但它们会被"重组"、"调整"、"重新定位"。安全专家会被调去做产品研究，伦理学者会被安排去做"社会责任报告"。
然后，那些真正关心安全的人会自己离开。不是因为被开除，而是因为发现自己已经无法影响决策了。
Madry选择研究"AI对经济的影响"，这个方向本身就说明问题。他在安全岗位上无法阻止的东西，也许换一个角度还能做点贡献——研究AI对就业的冲击、对收入分配的影响、对经济结构的改变。这些问题的答案，可能比任何一个模型的安全评估都更重要。
行业需要一个独立的安全力量
OpenAI的故事告诉我们一件事：不能指望AI公司自己做自己的安全裁判。
这不是针对OpenAI——没有任何一家公司能做到。当你同时是运动员和裁判员时，比赛结果早已注定。
行业真正需要的是独立的安全评估机构，类似于金融行业的审计公司、医药行业的FDA、航空行业的适航认证。这些机构不由被监管方支付薪水，不由被监管方任命负责人，它们的唯一使命是公共利益。
目前AI行业没有这样的东西。有学术界的论文，有非营利组织的报告，有政府机构的征求意见稿。但没有一个拥有实际约束力的独立安全认证体系。
Madry的离开是OpenAI的损失，但也许能成为推动建立独立安全机制的一个催化剂。
给行业的一句话
当安全负责人被调去做产品研究，当伦理团队被并入公关部门，当"负责任AI"从核心使命变成营销口号——这不是某个公司的选择，这是整个行业的十字路口。
我们可以继续假装增长和安全可以兼得。或者我们可以承认：在当前的激励结构下，安全和增长天然冲突。 承认这一点不是悲观，是诚实。而诚实，是解决问题的第一步。
Madry选择了诚实——他离开了。剩下的问题是：还有多少人会选择诚实？