刘凡平

本次演讲将深入探讨端侧智能领域中，如何设计适用于资源受限环境的大模型架构，并探讨基础算法的改进思路。 随着人工智能技术的飞速发展，将强大的模型能力部署到端侧设备（如手机、嵌入式设备等）的需求日益增长。然而，端侧设备在计算资源、存储空间和功耗等方面存在诸多限制，给传统的大模型带来了巨大的挑战。本次演讲将首先分析端侧智能面临的关键问题，然后重点介绍当前主流的端侧大模型架构设计方向。同时，也将探讨针对端侧场景的基础算法改进思路。最后，将展望端侧智能未来的发展趋势，并探讨其在各个领域的潜在应用价值。 演讲提纲： 端侧智能的兴起与挑战 端侧大模型架构设计方向 端侧…

随着人工智能技术的快速发展，大模型的应用范围不断扩大，从云端到边缘侧和端侧，AI 正在全面渗透。然而，在将大模型部署到手机、智能家居、智能汽车等终端设备时，面临着存储、计算资源有限，功耗控制以及软件生态不健全等多重挑战。通过不断的技术探索和优化，岩芯数智率先实现以端侧的多模态大模型的高效运行。本次分享将聚焦端侧大模型的创新研究和应用，从技术难点、优化方法到实际应用和未来趋势。 演讲提纲： 端侧大模型的现状与挑战 端侧大模型的优化与创新 岩芯数智端侧大模型的实践 实际应用与案例分享 未来趋势 听众收益： 了解创新性端侧模型的设计方向 了解独特的非Trans…