李深
Employers on the program
- 2024阿里云1 talk
Events1
Conferences1
Talks1
Years active2024
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| May 17, 2024 | AICon 全球人工智能开发与应用大会 暨 大模型应用生态展 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | BladeLLM 大模型高性能部署框架 as 阿里云 大模型在线服务部署在场景特性、资源规模和性能指标等方面对引擎框架等 AI 基础设施建设提出了更高更复杂的要求，阿里云人工智能平台 PAI 基于模型系统优化的技术积累和实践经验，面向大模型场景构建了 BladeLLM 高性能部署框架。BladeLLM 结合量化压缩、AI…Show less大模型在线服务部署在场景特性、资源规模和性能指标等方面对引擎框架等 AI 基础设施建设提出了更高更复杂的要求，阿里云人工智能平台 PAI 基于模型系统优化的技术积累和实践经验，面向大模型场景构建了 BladeLLM 高性能部署框架。BladeLLM 结合量化压缩、AI 编译、高性能算子与调度、以及分布式可扩展性等技术，为大模型在线部署场景提供了多层次联合的极致性能优化方案，并且能兼容大模型主流生态，提供灵活易用的接口，具备规模化生产应用的完备性和可靠性。 演讲提纲： 大模型服务部署优化的主要挑战 大模型在线服务的场景特性与性能要求 模型规模与长下文规模带… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.