梁志伟
Employers on the program
- 2026京东1 talk
Events1
Conferences1
Talks1
Years active2026
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| Jun 26, 2026 | AICon 全球人工智能开发与应用大会 | 上海 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | xLLM 的投机推理架构设计 as 京东 议题介绍本次演讲将聚焦于xLLM 的投机推理架构设计。将从一个核心问题出发：如何让大模型推理在保证生成质量的前提下，实现数量级的效率提升？ 传统的自回归推理如同“逐字思考”，速度存在瓶颈。投机式推理则引入了一个“快速草稿机”（小模型）和一个“权威审核员”（大模型）的协作范式，从根本上改变了推理流程。xLLM…Show less议题介绍本次演讲将聚焦于xLLM 的投机推理架构设计。将从一个核心问题出发：如何让大模型推理在保证生成质量的前提下，实现数量级的效率提升？ 传统的自回归推理如同“逐字思考”，速度存在瓶颈。投机式推理则引入了一个“快速草稿机”（小模型）和一个“权威审核员”（大模型）的协作范式，从根本上改变了推理流程。xLLM 不仅实现了这一范式，更通过一系列创新的系统架构设计，解决了将其投入实际生产时面临的计算、通信、调度等核心挑战。 演讲提纲： 大模型推理的挑战与投机式推理原理 当前大模型推理的延迟与计算资源矛盾 投机式推理的基本思想：用小模型“草案”引导大模型“验证”… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.