袁镱
Employers on the program
- 2025腾讯1 talk
Events1
Conferences1
Talks1
Years active2025
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| Aug 22, 2025 | AICon 全球人工智能开发与应用大会 | 深圳 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 一念 LLM分布式推理优化实践 as 腾讯 基于大模型推理基本原理，结合 MoE 类模型特性，一念 LLM 设计了一套高效分布式推理优化方案。围绕流水线并行、显存管理、以及DP/TP/PP混合并行策略，实现了对推理过程的深度调优。在DeepSeek推理测试中，相较于业界主流开源推理框架，整体吞吐性能提升达 48%。 演讲提纲： 大模型推理的挑战…Show less基于大模型推理基本原理，结合 MoE 类模型特性，一念 LLM 设计了一套高效分布式推理优化方案。围绕流水线并行、显存管理、以及DP/TP/PP混合并行策略，实现了对推理过程的深度调优。在DeepSeek推理测试中，相较于业界主流开源推理框架，整体吞吐性能提升达 48%。 演讲提纲： 大模型推理的挑战 大模型推理的基本逻辑 各个推理加速框架的设计思路对比 大模型分布式推理的主要优化技术 DP/EP等并行技术与MoE模型的特点 一念LLM的设计与优化 一念LLM的设计思路和主要优化方向 一念LLM针对DeepSeek特点进行的性能优化 听众收益： 了解大模… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.