杨国强
Employers on the program
- 2025Google1 talk
Events1
Conferences1
Talks1
Years active2025
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| Aug 22, 2025 | AICon 全球人工智能开发与应用大会 | 深圳 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 以卓越性价比释放开放大模型潜能：TPU 上的推理优化全解 as Google 本次演讲将探讨如何在Google Cloud TPU上，以 高性价比 的方式部署开放的大语言模型和文生图模型。我们将基于TPU的发展历程及其硬件架构特性， 深入剖析 如 vLLM、JetStream、MaxDiffusion 等主流推理框架在TPU上的优化路径。 演讲将重点介绍围绕…Show less本次演讲将探讨如何在Google Cloud TPU上，以 高性价比 的方式部署开放的大语言模型和文生图模型。我们将基于TPU的发展历程及其硬件架构特性， 深入剖析 如 vLLM、JetStream、MaxDiffusion 等主流推理框架在TPU上的优化路径。 演讲将重点介绍围绕 自动前缀缓存、分块预填充、连续批处理、分布式推理 等关键技术手段，如何实现推理流程的深度调优，从而显著提升模型部署的吞吐效率与响应延迟。 演讲提纲： TPU 简介与技术演进 理解大模型推理的核心流程 自回归模型的推理过程：Prefill 与 Decode 阶段解析 关键挑战：… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.