面试小模型岗,怎么判断团队是真做工程还是只调参?

消息提到,IFM发布了一个7B Dense小模型K2-Horizon-7B,在AA Bench得21分,而Qwen3.6-27B为22分,参数量小得多却接近更大模型的水平。更值得求职者注意的是,消息说它的训练数据、训练方法(recipe)、训练代码和评估方法全部开源。对准备面小模型或高效模型方向的人来说,这正好提供了一个判断团队工作重心的参照。

面试时,与其只问“你们用什么架构”,不如问训练数据从哪来、清洗和配比由谁定、recipe有没有文档、评估集怎么构建、指标能不能被别人复现。只报分数的团队,往往把调参当全部;能说清数据来源和评估口径的团队,才更可能在做工程。如果对方说“数据不方便讲”,可以追问评估方法是否内部可复现、失败案例怎么归因。

上下文成本高、量化未就绪,这类取舍该问谁?

素材里还有一个具体信息:该模型最大支持512K上下文,但为全注意力,上下文成本相当高;目前只有原始BF16精度,128K上下文需18G显存或统一内存。量化版本何时发布、由谁维护,素材并未说明。

这类取舍最能暴露岗位边界。面试时可以问:长上下文的显存和推理成本由谁负责?量化、蒸馏或缓存优化是算法岗做,还是另有工程团队?如果面试官答“先跑通再说”,说明落地压力可能落在你身上却没人兜底。反过来,如果团队能说清谁负责量化、谁负责部署、评估怎么覆盖长上下文场景,这个岗位更接近工程落地,而不是只交一版权重。 延伸阅读:聚宽投资2027秋招解读:百亿量化私募的AI技术岗,值不值得冲?

小模型方向值不值得转,先看什么信号?

把开源程度、评估可复现性和部署成本当作判断方向成熟度的信号,比只看榜单分数更稳。一个7B模型分数接近27B,说明小模型路线有讨论价值;但上下文成本和量化缺口也说明,工程问题还没被完全解决。

假设你拿到两个offer:A团队只让你复现论文指标,B团队让你参与数据配比、评估设计和量化排期。后者更可能积累可迁移的能力。面试前可以准备三个核查问题:训练数据与recipe是否公开或可内部复现?评估方法能否被第三方复跑?上下文成本与量化计划归属哪个角色?

最后给一个实际可做的小建议:面试前把目标团队近半年公开的技术博客或模型卡翻一遍,记下他们讲没讲数据、评估和部署成本,面试时用这三个点去核对,比背八股更能看出方向真假。