汤雄超
Employers on the program
- 2025清程极智1 talk
Events1
Conferences1
Talks1
Years active2025
Appearances by year
- AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference)
Talks
| Date | Event | Conference | Role | Title | Links |
|---|---|---|---|---|---|
| Jun 27, 2025 | AICon 全球人工智能开发与应用大会 |北京 | AICon 全球人工智能开发与应用大会 (AICon Global AI Development and Application Conference) | speaker | 赤兔推理引擎与大模型推理关键技术 as 清程极智 随着国产大模型技术的快速发展,如何利用国产算力芯片高效部署和运行这些模型成为关键问题。当前,FP8 精度模型的推理高度依赖英伟达 Hopper 架构…Show less随着国产大模型技术的快速发展,如何利用国产算力芯片高效部署和运行这些模型成为关键问题。当前,FP8 精度模型的推理高度依赖英伟达 Hopper 架构 GPU,这使得国内企业在部署时面临硬件成本高昂、依赖进口芯片等困境。为解决这一问题,清程极智与清华团队联合开源了赤兔推理引擎,本次演讲将分享赤兔推理引擎如何通过底层技术革新,实现了在非英伟达 Hopper 架构 GPU 及各类国产芯片上原生运行 FP8 精度模型,并确保模型精度无损。 演讲提纲 赤兔推理引擎的诞生背景 问题的提出 合作与开源 赤兔推理引擎的核心技术革新 介绍赤兔推理引擎的底层技术框架 如何实… |
Frequent co-speakers
No one else spoke at two or more of the same events.
Speakers with the same name are merged into one entry, so this page may combine more than one person. Affiliations are shown as each conference listed them.