陈凯
Employers on the program
- 2024硅基流动1 talk
Events1
Conferences1
Talks1
Years active2024
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| Aug 18, 2024 | AICon 全球人工智能开发与应用大会 | 上海 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 高性能低成本的大模型推理云实践 as 硅基流动 大模型推理是大模型应用的重要一环，随着模型尺寸越来变大，应用越来越普及，如何构建一个开发者用得起的模型服务至关重要，为此硅基流动设计了多模态和大语言模型的加速套件，并基于此构建了大模型推理云 SiliconCloud，以提供高性能低成本的推理服务。本演讲分享高性能低成本的大模型推理云的设计思考和最佳实践。 演讲提纲：…Show less大模型推理是大模型应用的重要一环，随着模型尺寸越来变大，应用越来越普及，如何构建一个开发者用得起的模型服务至关重要，为此硅基流动设计了多模态和大语言模型的加速套件，并基于此构建了大模型推理云 SiliconCloud，以提供高性能低成本的推理服务。本演讲分享高性能低成本的大模型推理云的设计思考和最佳实践。 演讲提纲： 大模型推理加速背景与挑战 硅基流动大模型推理云 SiliconCloud 加速方案 多模态加速 大语言模型加速 云上的演化 总结与展望 听众收益： 了解 AI Infra 中推理加速的价值和常用方案 了解 AI Infra 推理云的实践方案 |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.