一条风险概率推文,和你的求职判断有什么关系
消息提到,有推文称Anthropic对齐负责人Evan对AI存在性风险给出约80%的概率,而非此前所说的“>10%”;引用推文认为“>10%”淡化了真实风险,容易让人误以为有90%概率一切正常。主推文还称,Coxon所说的“这十年内”实际指未来约3年。这些数字的原始出处和语境并未核验,也不代表Anthropic官方立场。
对准备进入AI安全/对齐方向的人来说,这条动态的价值不在数字本身,而在于提醒你:风险沟通和日常研究任务是两件事。面试时如果只聊“你怎么看AI风险”,你了解到的只是对方的表达风格,不是团队的真实工作。
风险叙事不等于岗位日常
极端风险概率是个人观点或推文转述,不是岗位说明书。一个对齐团队可能在做评估基准、可解释性、红队测试、对齐工程或政策研究,这些任务的技能要求差别很大。
读岗位描述时,可以留意它写的是“设计评估方法”“复现并改进论文”“搭建训练管线”,还是“撰写风险报告”“参与政策讨论”。两类方向都有人做,但日常产出不同:前者更接近研究和工程,后者更接近沟通与策略。
假设场景:两个候选人同时看到“80%”这条推文。A因此认定这个方向“只剩危机公关”,B则去查团队近期论文和开源代码,确认对方在做什么评估任务。后者更容易在面试中问出有效问题。
面试和选导师时该问什么
与其问“你觉得AI会毁灭人类吗”,不如问:团队最近半年发表了什么论文或代码?评估方法如何验证?风险讨论在项目决策中起什么作用?
推文把“这十年内”解释为约3年,说明时间线表述本身存在歧义。同样,你听到的“我们很重视安全”也可能指不同的事。可以追问:这个岗位的产出是论文、内部工具,还是对外报告?
做研究还是做工程,取决于你的技能和兴趣。研究岗通常需要读论文、设计实验、写清楚假设;工程岗更看重代码、系统调试和可复现性。两者都需要对目标岗位的实际要求做核查,而不是被单一风险叙事驱动。
一个实际可做的小建议:找三篇目标团队近期的公开论文或技术博客,试着复现其中一个评估思路,再判断自己是否愿意长期做这类工作。








