AI平台开发专家/架构师 (MJ008485)
30-60K
AI平台开发专家/架构师 (MJ008485) 30-60K
深圳
本科
经验不限
发布于 5月4日 BOSS直聘
职位描述
JavaGo
岗位名称:AI平台开发专家/架构师
岗位职责:
1、负责大模型AI推理平台的开发和维护,使用各种高性能计算库进行推理加速
2、围绕推理框架开发Serverless推理平台,建设具有高吞吐低延迟的平台
3、负责开发异构芯片下的AI资源调度平台,减少用户使用成本,开箱即用
4、围绕行业大模型和国产GPU的优化和适配(Kernel 优化,编译优化,显存优化 等)
岗位要求:
1、至少熟悉Go/C++/Java语言等开发语言其中之一,有相关的开发经验
2、了解主流的推理框架TGI、vllm、triton、FasterTransformer,有实际的使用经验
3、有AI大模型技术及相关平台开发经验,包括但不限于训练平台、推理平台以及大模型优化等相关经验
4、熟悉主流的芯片NPU、TPU、GPU、XPU等使用方式,具有异构卡的虚拟化和及算力调度开发经验大大优先
5、熟悉各类深度学习网络和算子底层实现细节训练和推理模型调试,有调优经验优先
6、具备CUDA层调优能力、昇腾CANN编程能力,能根据不同的神经网络结构进行算子开发/调优优先考虑。
7、熟悉RDMA网络通信技术并有高性能网络设计及开发经验者优先;
工作地址
深圳南山区深信服科技总部大楼总部