张君
Employers on the program
- 2025华为1 talk
Events1
Conferences1
Talks1
Years active2025
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| May 23, 2025 | AICon 全球人工智能开发与应用大会 | 上海 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 华为昇腾推理技术的优化实践 as 华为 随着大模型技术的快速发展，其在LLM、多模态融合等领域的应用越来越广泛。然而，大模型的高效推理仍然是一个关键挑战，从计算复杂度、内存占用、通信技术等各个技术层面展开，如何在保证性能的同时降低计算成本、提升推理效率成为了关键挑战。…Show less随着大模型技术的快速发展，其在LLM、多模态融合等领域的应用越来越广泛。然而，大模型的高效推理仍然是一个关键挑战，从计算复杂度、内存占用、通信技术等各个技术层面展开，如何在保证性能的同时降低计算成本、提升推理效率成为了关键挑战。 本次演讲将围绕大模型推理优化的技术发展方向，围绕模型层、推理框架层、算子层这3个方面展开，并结合实践案例，阐述相关的技术方案和选型，帮助听众更好地理解和应用大模型推理技术。 演讲提纲： 大模型推理加速的技术挑战与常用方案 算子融合，如 FA，通算融合 模型量化，如 w8a8 等 Attention容量压缩，如 MLA、GQA 等… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.