
钉钉 AI 方向加大投入,一次性开放 200+ 岗位,快来一起追赶科技浪潮吧~~
岗位名称:大模型服务端开发工程师
核心职责:
构建高可用、高性能的大模型应用服务架构,支持Agent系统开发及模型能力集成
优化服务响应性能与资源利用率,保障分布式系统稳定性
开发模型服务中间件,实现Prompt工程管理、多模型路由、推理请求编排等核心组件
配合算法团队完成模型服务化部署,落地RAG、Multi-Agent等复杂系统架构
任职要求:
精通Go/Java/Python中至少一种服务端语言,熟悉gRPC、RESTful接口开发
掌握大模型服务化技术栈(vLLM/Triton等),具备模型API服务部署调优经验
熟悉LangChain/LlamaIndex等AI工程化框架
具备高并发场景处理能力,熟悉分布式缓存、消息队列、服务治理等关键技术
有AI应用开发背景,了解Fine-tuning、Embedding服务化等模型适配方法
加分项:
主导过Agent系统开发或RAG架构落地项目
熟悉AutoGen、ChatDev等Agent开发框架
有模型服务性能优化经验(显存管理/动态批处理/量化推理)
具备AI应用架构设计经验(流式响应/会话状态管理)
参与过LLMOps全链路建设或大模型中间件开发