提示词注入被点名,先分清模型安全与业务安全
一位模型从业者公开表示,无论使用什么模型,提示词注入都是重大安全风险,行业应投入更多努力训练模型抵抗它;他还称约两个月前已在实践中解决了自家模型的这一问题,并乐见新模型在该风险上与同类大致相当。消息提到,随着模型能力增强并成为商业和经济核心,风险只会增加。
对想转AI安全合规的人来说,这段表态的价值不是告诉你“岗位要扩招”,而是提醒你:面试时要把行业观点和岗位需求分开核查。同一个提示词注入问题,在模型安全团队和业务安全合规团队里是两份工作。模型安全侧关注模型本身对恶意指令的抵抗能力,可能涉及评估、红队测试、对齐训练;业务安全合规侧关注产品上线后,用户输入、外部数据、工具调用带来的风险如何被识别、记录和处置。读岗位描述时,别只看“AI安全”四个字,要确认这个岗位参与的是模型评估,还是流程治理、合规审计或隐私影响评估。
面试安全合规岗,怎么核查团队的真实工作内容?
可以问团队最近处理的安全事件类型:是模型被绕过,还是业务流程中的权限与数据问题;问与模型团队的协作方式:是提需求、做评估,还是只写制度文档;问合规工作如何落到产品流程:有没有评审节点和留痕机制。把这三个问题写成一张核查表,每项标注“有明确回答”“回答模糊”“对方没回答”。如果对方只谈行业趋势,不谈具体环节,你要谨慎判断这个岗位是否已经成型。这里的判断不是否定机会,而是帮你区分“岗位确实在解决具体安全问题”和“岗位尚在探索、职责边界不清”。
想转AI安全合规,现在该补什么、不该假设什么?
可以补安全风险评估方法、常见合规框架、模型基础认知,练习把一次风险场景拆成“谁受影响、依据什么规则、怎么处置”。但不要假设行业观点等于招聘行情,也不要把某家公司的安全进展当成自己的求职筹码。你可以用假设场景做练习:假设产品允许用户上传文档并让模型自动调用外部工具,你会先问哪些数据能进、哪些操作需要确认、日志留多久。这种练习帮你准备面试表达,不是让你断言企业一定这么做。面试前,找一份目标岗位描述,逐条标出“我做过”“我了解”“我需要确认”,再决定投递优先级。








