张力寰
Employers on the program
- 2024零一万物1 talk
Events1
Conferences1
Talks1
Years active2024
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| Aug 18, 2024 | AICon 全球人工智能开发与应用大会 | 上海 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 千亿参数 LLM 模型的训练效率优化 as 零一万物 本次演讲主要介绍千亿模型训练过程中的训练优化实践经验，如何在 MFU 和 Goodput 两个维度提升模型训练的效率。其中包括分布式训练策略、异步存储 CKPT、FP8 训练经验分享、MOE 训练优化分享等。 演讲提纲： 模型训练硬件利用率影响因素 提升分布式训练效率 异步存储 CKPT FP8 训练经验分享 MOE…Show less本次演讲主要介绍千亿模型训练过程中的训练优化实践经验，如何在 MFU 和 Goodput 两个维度提升模型训练的效率。其中包括分布式训练策略、异步存储 CKPT、FP8 训练经验分享、MOE 训练优化分享等。 演讲提纲： 模型训练硬件利用率影响因素 提升分布式训练效率 异步存储 CKPT FP8 训练经验分享 MOE 训练经验分享 总结与展望 听众收益： 了解大模型训练优化方法 了解 FP8 训练相关经验 了解 MOE 训练相关经验 |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.