- 工作职责
1. 负责大模型的云端部署，并针对特定推理框架做工程优化，确保生成环境中推理服务的稳定且高效运行
2. 与算法专家合作，负责AIGC优化算法的实施，提高推理系统的性能和可靠性
3. 结合公司业务，参与系统架构设计和实现，负责系统全链路优化工作，确保AIGC推理方案满足业务指标
- 岗位要求
1. 本科及以上学历，计算机、机器学习、人工智能相关专业，具有2年以上AI研发相关经验优先
2. 熟悉Linux系统编程，具有扎实的Python编程能力，熟悉C++开发，具有在生成环境中部署和维护AI系统的经验
3. 熟悉PyTorch、TensorFlow等常用的深度学习框架，在大模型训练、推理性能调优、大模型部署等方面有实战经验，具有AI算子优化经验优先，具有vLLM、TGI、TensorRT等推理框架的部署及优化经验优先
4. 热爱技术，具有良好的分析能力，责任心强，团队合作意识高
5. 加分项：具有CUDA编程和项目经验者优先。