这起案子给求职者的提醒

消息提到，一名前游戏公司程序员组建团队，通过改写系统提示词实现模型越狱、设定角色卡诱导对话场景，为用户输出淫秽内容提供技术条件；浙江余姚法院审结此案，认定其构成制作淫秽物品牟利罪。法官指出，模型本身自带内容安全过滤，不是犯罪工具，但被告通过提示词工程突破安全防护，把通用工具变成专门输出违法内容的工具，对生成结果具备实质性控制力。

对想进入AI内容安全、合规与风控岗位的人来说，这条动态的价值不在案情本身，而在于它把"谁对输出负责"这个问题摆到了台面上。面试时，你需要问清目标岗位到底站在哪一侧。

主动防控和被动审核，是两条不同的路

同样是内容安全，两类岗位的日常差别很大。

被动审核型岗位，工作重心是依据规则对已产生的内容做判断、打标、处置，考核多与处理量、时效、准确率挂钩。这类岗位入行门槛相对低，但成长空间取决于你能否接触到规则本身。

主动防控型岗位，会参与安全策略设计：提示词层面的约束怎么写、角色卡和对话场景的边界怎么定、模型迭代时安全评审放在哪个环节。法官强调的"实质性控制力"，对应的正是这类工作——不是等违法内容出来再删，而是在生成链路上设限。

面试时可以直接问：这个岗位是否参与安全策略或提示词规则的制定？还是只负责执行既定规则？如果只做执行，再问一句：执行中发现规则漏洞，有没有渠道反馈并推动修改？

面试核查清单：把边界问具体

以下问题适合在面试中自然提出，用来判断岗位的真实职责范围：

  • 团队的安全标准由谁制定？合规岗是参与制定，还是只负责落地？
  • 模型上线前有没有安全评审环节？合规岗在评审中有一票否决权，还是只提供参考意见？
  • 出现安全事件时，责任如何划分？合规岗是提前介入，还是事后配合处理？
  • 岗位的考核指标是什么？是审核量、时效，还是风险拦截效果、规则覆盖率？
  • 团队与算法、产品、法务的协作方式是什么？合规意见在需求阶段就能提出，还是产品做完才被通知？

这些问题的答案没有标准好坏，但能帮你判断：这个岗位是在建机制，还是在补窟窿。

需要说明的是，以上是给读者的分析，不是对案件的补充报道。该案是否引发企业增设相关岗位、市场需求如何变化，素材并未提及，不宜据此推断行情。

一个实际可做的小建议：面试前，把目标岗位的职责描述逐条拆开，标出哪些是"执行"、哪些是"设计"，带着这份标注去提问，比泛泛地问"岗位发展空间大吗"更容易得到真实信息。