向乾彪
Employers on the program
- 2025腾讯1 talk
Events1
Conferences1
Talks1
Years active2025
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| May 23, 2025 | AICon 全球人工智能开发与应用大会 | 上海 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 腾讯混元 AngelHCF 推理加速框架优化实践 as 腾讯 腾讯 AngelHCF 推理加速框架针对混元 LLM 大语言模型做了深度推理优化，结合全新的 Hybrid 模型结构整体上取得了不错的推理成本优势，支撑了元宝线上混元模型上万卡推理。同时，AngelHCF于24 年初即大规模部署上线了万亿 MoE…Show less腾讯 AngelHCF 推理加速框架针对混元 LLM 大语言模型做了深度推理优化，结合全新的 Hybrid 模型结构整体上取得了不错的推理成本优势，支撑了元宝线上混元模型上万卡推理。同时，AngelHCF于24 年初即大规模部署上线了万亿 MoE 大模型，针对大规模MoE模型通信特点做了混合切分策略优化，叠加模型压缩、PD 分离等优化手段，显著降低了线上推理成本。本次分享将从不同角度分别介绍腾讯混元推理加速框架 AngelHCF 所做的一些针对性优化，结合全新的Turbos 模型结构，希望能给听众带来一些新的启发。 演讲提纲： 腾讯混元模型 & Ange… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.