杨培军
Employers on the program
- 2025京东零售1 talk
Events1
Conferences1
Talks1
Years active2025
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| Jun 27, 2025 | AICon 全球人工智能开发与应用大会 ｜北京 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 京东零售大模型推理优化实践 as 京东零售 随着DeepSeek的爆火，其卓越的性能和成本引起了科技界的广泛关注，同时经过一两年的技术发展，LLM推理加速与部署进入深水区。LLM模型在京东零售内部有大量面向C端用户、B端商家和广告主系统等的落地应用，业务场景提出了较高的SLO要求和成本压力，如何兼顾高吞吐与低时延是迫切要解决的问题。本次演讲将展开介绍这其中面临的…Show less随着DeepSeek的爆火，其卓越的性能和成本引起了科技界的广泛关注，同时经过一两年的技术发展，LLM推理加速与部署进入深水区。LLM模型在京东零售内部有大量面向C端用户、B端商家和广告主系统等的落地应用，业务场景提出了较高的SLO要求和成本压力，如何兼顾高吞吐与低时延是迫切要解决的问题。本次演讲将展开介绍这其中面临的技术挑战和核心技术要点，分享可落地的优化实践经验。 演讲提纲 京东零售大模型应用场景 大模型推理服务落地面临的技术挑战 推理服务核心优化技术 技术架构与核心功能 请求/实例全局调度 全异步化运行与多层流水线 算子高效执行与显存管理 未来优化… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.