曹治政
Employers on the program
- 2024Google1 talk
Events1
Conferences1
Talks1
Years active2024
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| May 17, 2024 | AICon 全球人工智能开发与应用大会 暨 大模型应用生态展 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 公有云 LLM 模型分布式训练最佳实践 as Google Cloud 分享内容主题为 GenAI LLM 在工程化的过程中所面临的挑战，以及对应的解决方案。LLM 模型参数量近些年呈指数型发展，远远超过单个硬件加速设备（GPU/TPU）的发展速度。从工程的角度上看，这种发展速度无论对模型的训练和推理都造成了严重的挑战。以大模型的训练为例，分布式训练基本上成为了标配，然而这种复杂的技术架构…Show less分享内容主题为 GenAI LLM 在工程化的过程中所面临的挑战，以及对应的解决方案。LLM 模型参数量近些年呈指数型发展，远远超过单个硬件加速设备（GPU/TPU）的发展速度。从工程的角度上看，这种发展速度无论对模型的训练和推理都造成了严重的挑战。以大模型的训练为例，分布式训练基本上成为了标配，然而这种复杂的技术架构给实践者带来了很大的挑战。例如： 如何选择开源框架与技术工具 如何构建大规模的分布式训练集群、如何优化存储与网络的设计 如何做到基础设施的自动化与扩展能力，并在不同的场景下最优化成本 如何集成开发与运维工具，端到端自动化模型训练的工作流程（… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.