定制报告-个性化定制-按需专项定制研究报告
行业报告、薪酬报告
联系:400-6363-638
《2024端侧智能行业发展现状、驱动因素及未来趋势分析报告(29页).pdf》由会员分享,可在线阅读,更多相关《2024端侧智能行业发展现状、驱动因素及未来趋势分析报告(29页).pdf(29页珍藏版)》请在薪酬报告网上搜索。
1、2 0 2 4 年深度行业分析研究报告目录目录端侧智能:人与人工智能交互的更优窗口端侧智能:人与人工智能交互的更优窗口政策、技术、需求多维共振叠加新品刺激,行业步入发展快车道生态效应显著,把握高通、华为两大主线1 端侧智能:人与人工智能交互的更优窗口端侧智能:人与人工智能交互的更优窗口语言学习平台语言学习平台端侧智能是指在终端设备一侧进行的智能化处理和决策。端侧智能是指在终端设备一侧进行的智能化处理和决策。它将人工智能算法和计算能力直接部署在边缘设备上,如智能手机、PC、智能家居、可穿戴设备、汽车、工业传感器等,使这些设备能在本地进行数据处理和分析,无需将大量数据传输到云端进行处理。这些终端通
2、过内置的AI算法和硬件支持,实现了语音识别、图像处理、自然语言理解、预测分析等功能,提升用户体验和设备性能。端侧智能区别于传统端侧智能区别于传统AI的关键的关键在于,AI终端采用大模型端侧部署或端侧部署与云端部署相结合的模式,而非完全依赖云端大模型。在AI终端上,云端大模型为端侧提供支持,复杂计算任务可以在云端完成,然后将结果传输到端侧设备。而端侧大模型在本地设备上运行,负责相对简单的任务,实现更快速的响应和更好的隐私保护。云端大模型云端大模型运行在数据中心或云计算平台上的大型模型,通常拥有强大的计算能力和大量的存储资源,能够处理大规模数据,进行复杂的计算和训练,提供强大的AI服务,但存在定制
3、化程度低、隐私无法保证、使用必须联网等缺陷。图图:AIAI终端的关键技术特征终端的关键技术特征资料来源:about云,东兴证券研究所端侧大模型端侧大模型运行在本地设备上的模型,通常较小,但经过优化适应设备的计算和存储限制,特征是能够在本地设备上快速响应,提升隐私保护和数据安全,减少对网络连接的依赖。图图:云端大模型与端侧大模型对比云端大模型与端侧大模型对比资料来源:华为AI终端白皮书,东兴证券研究所1.1 端侧智能的优势端侧智能的优势语言学习平台语言学习平台资料来源:东兴证券研究所制表整理表表:端侧智能的优势端侧智能的优势优势类型优势类型具体优势具体优势描述描述增效增效低延迟低延迟AI 终端设
4、备在本地处理数据,降低处理延迟,实现更快响应时间,在自动驾驶、智能家居和工业控制等即时反馈场景作用明显。脱机可用脱机可用AI 终端设备在无网络连接情况下仍能独立运行,确保在网络不稳定或断开时持续提供智能化服务,提高系统整体可靠性。分布式计算分布式计算与边缘计算架构结合,实现大规模分布式处理,多设备、多节点环境下协同工作,增强整体系统计算能力与效率。降本降本节能高效节能高效本地执行计算任务,减少与云端数据交互,降低能源消耗,提升整体系统能源效率,优化资源利用,减少对外部计算资源依赖。成本效益成本效益本地处理数据,减少对云端资源依赖,降低与云计算相关的带宽和存储成本,对大规模部署企业成本效益显著。
5、安全安全稳定稳定调度本地大模型,避免因云端服务波动导致工作流中断,减少对云端模型依赖,使工作流程更稳定可控。数据安全数据安全本地处理敏感数据,避免上传至云端,降低数据泄露风险,增强隐私保护,在涉及个人信息和商业机密应用中尤为重要。个性化个性化个性化个性化本地对用户行为细致分析,精准了解用户需求,提供个性化服务,更好适应用户独特偏好和需求。端侧智能依靠技术特性在多方面具备显著优势。端侧智能依靠技术特性在多方面具备显著优势。增效方面,低延迟使得其在自动驾驶等即时反馈场景作用明显;脱机可用确保在无网络时也能持续提供智能化服务;分布式计算与边缘计算架构结合,实现多设备协同工作,增强系统计算能力。降本方
6、面,节能高效可降低能源消耗,成本效益显著是因为减少了对云端资源的依赖,降低了带宽和存储成本。安全方面,稳定的特性可避免因云端服务波动中断工作流;数据安全能降低数据泄露风险。此外,端侧智能还具有个性化优势,可本地分析用户行为,精准了解需求,提供个性化服务,更好地满足用户独特偏好和需求。1.2 端侧智能当前主要落地场景端侧智能当前主要落地场景语言学习平台语言学习平台资料来源:东兴证券研究所制表整理表表:AI终端主要品类及市场情况终端主要品类及市场情况品类品类定义定义市场渗透率市场渗透率产品成熟度产品成熟度技术难度技术难度市场接受度市场接受度进入难度进入难度产品成本产品成本AI PC内置AI 大模型
7、、搭载AI 芯片、系统深度融合AI 的新一代PC较高中等较高较高较高中等AI手机手机内置AI 大模型、装配AI 芯片、OS 深度融合AI 的新一代手机较高中等较高较高较高中等AI可穿戴设备可穿戴设备搭载AI 技术、端云结合的可穿戴设备,如AI 眼镜、AI 手表等较低较低较高中等中等中等AI智能家居智能家居搭载AI 技术的智能家居产品,如扫地机器人、AI 控制平台等较低较低较高中等中等中等AI智能汽车智能汽车搭载AI驾驶、AI座舱管理等AI功能的新一代汽车中等中等较高中等中等较高AI工业设备工业设备可以在端侧进行数据采集和分析,用于工业自动化领域的传感器较低中等较高中等较高较高1.2 端侧智能当
8、前主要落地场景端侧智能当前主要落地场景语言学习平台语言学习平台资料来源:前瞻产业研究院、腾讯、网易、同花顺、上观、东兴证券研究所制表整理表表:AI终端主要品类创新方向与主要参与者终端主要品类创新方向与主要参与者品类品类增量类型增量类型技术及应用创新方向技术及应用创新方向主要参与者主要参与者AI PC短中期进入高速增长阶段个人知识库、本地大模型、NPU+GPU+CPU异构算力、轻量化模型、边缘计算、端云结合、AI OS、创新交互模式、本地化训练、ARM架构.国外:国外:英特尔、AMD、苹果、高通、戴尔、惠普等国内:国内:联想、华为等AI手机手机个人智慧式助理、轻量化端侧中小模型、NPU Soc、
9、散热要求、内存要求、快速识图、人脸识别、AI影像、手机价值链重塑国外:国外:苹果、三星、谷歌等国内:国内:华为、小米、荣耀、OPPO、vivo 等AI可穿戴设备可穿戴设备中长期具备稳定增量AI+AR、智能眼镜、Risc-V架构、全场景使用、硬件AI国外:国外:苹果、Meta、三星等国内:国内:华为、vivo等AI智能家居智能家居AI管家系统、边缘计算中心、AI家电、家居机器人国外:国外:苹果、亚马逊、谷歌、三星等国内:国内:小米、华为、科大讯飞、海尔等AI智能汽车智能汽车智能驾驶、智能座舱、智能网联国外:国外:特斯拉、英伟达、高通等国内:国内:华为、蔚来、小鹏、理想、地平线等AI工业设备工业设
10、备温度传感器、压力传感器、位移传感器等国外:国外:ABB、霍尼韦尔、西门子等国内:国内:华为、海尔卡奥斯、拓斯达等1.3.1 端侧智能行业空间及展望端侧智能行业空间及展望PC、手机、手机语言学习平台语言学习平台资料来源:AIPC产业白皮书,IDC,东兴证券研究所图图:AI PC:出货量与渗透率齐飞,:出货量与渗透率齐飞,2024成爆发元年成爆发元年AI终端具有广阔市场前景。依托终端具有广阔市场前景。依托PC、手机、可穿戴设备、家居、汽车等多个品类,手机、可穿戴设备、家居、汽车等多个品类,AI终端在短、中、长期均有增长曲线。终端在短、中、长期均有增长曲线。AIPC方面,方面,传统PC渗透率已接近
11、天花板,AIPC带来智能化体验或创造新增长点。IDC 预测,AI PC 在中国 PC 市场中新机的装配比例将在未来几年中快速攀升,将于 2027 年达到 85%,成为 PC 市场主流。随着行业龙头在2024年发布新一代AIPC,2024年AIPC出货量占比将由不足10%跃升过半,成为AI PC爆发元年。AI 手机方面,手机方面,根据中国报告大厅预测,2024年AI手机的渗透率预计将达到16%,预计2026年AI手机出货量超过4.7亿部,渗透率将达到38%,AI大模型与智能手机结合有望驱动新一轮换机周期,引领行业发展趋势。图图:AI手机:伴随手机市场回暖,稳步快速增长手机:伴随手机市场回暖,稳步
12、快速增长资料来源:中国报告大厅,东兴证券研究所语言学习平台语言学习平台资料来源:全球AI可穿戴市场报告,东兴证券研究所图图:全球全球AIAI可穿戴设备市场规模(十亿美元)可穿戴设备市场规模(十亿美元)AI可穿戴设备方面,可穿戴设备方面,预计市场规模将从24年的419亿美元增长至28年的1207亿美元,CAGR达30.3%。预测期的预期增长可以归因于消费者对可穿戴设备的兴趣激增、与智能手机的集成增加、医疗保健应用程序的扩展、远程患者监测的增加、生物识别认证的集成、智能服装解决方案的增长以及老年人护理可穿戴设备的开发。预测期内预计的主要趋势包括灵活显示技术的进步、传感器技术进步、小型化技术创新、与
13、AR的集成、人工智能驱动的可穿戴助手以及5G连接的集成。AI智能家居方面,智能家居方面,2023年全球智能家居市场规模达1238亿美元,预计到2032年市场将达3,456亿美元,CAGR为12.1%。在智能手机日益采用、高速互联网的广泛使用、对能源效率的日益关注和技术进步(如物联网和人工智能的整合)的推动下,市场正在经历稳步增长。图图:全球智能家居市场规模预测(十亿美元)全球智能家居市场规模预测(十亿美元)资料来源:全球AI家居市场报告,东兴证券研究所1.3.2 端侧智能行业空间及展望端侧智能行业空间及展望可穿戴设备、家居可穿戴设备、家居语言学习平台语言学习平台AI汽车汽车方面,方面,根据ID
14、C预测,我国乘用车市场中新能源车市场规模将在2028年超过2,300万辆。随着以比亚迪为首的新能源品牌对产品的布局在更加广泛的价位段全面铺开,以及小米、智界等品牌的强势入局,中国乘用车市场电动、智能化的进程继续稳定推进。随着新能源汽车市场规模的增长,依靠汽车供应链厂商使用AI提高生产力、辅助驾驶与智驾发展等因素,AI工业设备方面,工业设备方面,2019年全球制造业人工智能市场规模为81.4亿美元,预计到2032年将达到6951.6亿美元,期间CAGR达37.7%。这一显著增长表明人工智能技术在制造业中的采用不断增加。人工智能技术的进步提高了行业的效率、生产力和决策能力,显著降低人力与管理成本,
15、提升生产效率和生产质量,制造业人工智能渗透率预期短中期内呈指数级上升。当前“工业4.0”概念被逐渐接受,其主张通过信息物理系统实现“智能工厂”,动态配置生产方式,人工智能是实现关键,同时具身智能领域探索逐渐深入,或成为人工智能覆盖制造业全场景的关键技术。亚太地区庞大的制造业将为端侧AI落地提供广阔空间。图图:汽车领域人工智能市场规模(十亿美元)汽车领域人工智能市场规模(十亿美元)资料来源:GMI,东兴证券研究所1.3.3 端侧智能行业空间及展望端侧智能行业空间及展望汽车、工业设备汽车、工业设备图图:亚太地区制造业人工智能市场规模预测亚太地区制造业人工智能市场规模预测资料来源:Fortune B
16、usiness Insights,东兴证券研究所资料来源:Fortune Business Insights,东兴证券研究所图图:亚太地区具身智能市场规模预测亚太地区具身智能市场规模预测userid:93117,docid:176453,date:2024-09-30,目录目录端侧智能:人与人工智能交互的更优窗口政策、技术、需求多维共振叠加新品刺激,行业步入发展快车道政策、技术、需求多维共振叠加新品刺激,行业步入发展快车道生态效应显著,把握高通、华为两大主线政策文件政策文件主要内容主要内容发布时间发布时间国家层面国家人工智能产业综合标准化体系建设指南(2024版)加强人工智能标准化工作,推动产
17、业高质量发展2024年6月关于打造消费新场景培育消费新增长点的措施打造电子产品消费新场景。加大柔性屏、超级摄影、超级快充、人工智能助手、端侧大模型、跨屏跨端互联等软硬件功能开发,增强人机交互便利性。支持智能穿戴设备在通信娱乐、运动健身、健康监测、移动支付等领域应用,开拓柔性可穿戴、环境自适应智能纺织品应用领域。2024年6月教育部“人工智能赋能行动”促进智能技术与教育教学(AI for education)、科学研究(AI for Science)、社会(AI for Society)的深度融合,为学习型社会、智能教育和数字技术发展提供有效的行动支撑。2024年2月工业和信息化部等七部门关于推
18、动未来产业创新发展的实施意见发展适应通用智能趋势的工业终端产品,支撑工业生产提质增效,赋能新型工业化。发展量大面广、智能便捷、沉浸体验的消费级终端,满足数字生活、数字文化、公共服务等新需求。打造智能适老的医疗健康终端,提升人民群众生命健康质量。突破高级别智能网联汽车、元宇宙入口等具有爆发潜能的超级终端,构筑产业竞争新优势。2024年1月地方层面深圳市推动智能终端产业高质量发展若干措施鼓励智能终端品牌企业、整机代工企业开放供应链、打通上下游,与核心元器件、零部件、模组等上游供应链企业加强合作、联合攻关。2024年5月广东省关于人工智能赋能千行百业的若干措施目标到2027年全省人工智能产业底座进一
19、步夯实,算力规模过60EFLOPS,全国领先的算法体系和算力网络体系基本形成;智能终端产品供给丰富,在手机、计算机、家居、机器人等8大门类,打造百款以上大规模使用的智能终端产品,人工智能核心产业规模过4400亿元。2024年5月杭州市拱墅区与浙大城市学院共建边缘智能创新研究院边缘智能技术能实现数据在本地进行存储、处理,并且可以加入人工智能技术,提高数据隐私和安全性,避免数据传输的瓶颈和延迟。研究院计划通过五年建设,成为国家级科技创新平台,成为支撑技术创新、产业发展和人才培养的新高地。2024年4月2.1 政策端:利好频出,推动行业发展政策端:利好频出,推动行业发展资料来源:中国政府网,新浪财经
20、、教育部、深圳市工信局、广东省政府、杭州市政府、东兴证券研究所表表:端侧智能领域今年中央与地方主要政策及行动端侧智能领域今年中央与地方主要政策及行动2.2 技术端:处理器、内存、电池、散热、软件等进步助力端侧技术端:处理器、内存、电池、散热、软件等进步助力端侧AI落地落地项目项目核心创新点核心创新点具体内容具体内容处理器NPU+CPU+GPU 异构算力方案端侧AI 需要处理器提供算力支持,根据标准,NPU 算力达 40TOPS 才能够在本地部署大模型,异构方案为AI 落地贡献充足算力内存新一代 LPDDR(LPDDR5X/T)本地运行AI 要求更大内存。运行 13B 参数模型需要 16GB 以
21、上内存,三星 LPDDR5X 具有最大 32GB 的内存容量,运行速度达到 10.7GT/s电池更大电池容量、更快充电速度端侧AI 的算力激增导致功耗上升,要求更大容量电池和更快速充电,iPhone 16 Pro Max电池容量已达4685mAh,安卓阵营realme快充速度已上探至 320W散热VC 均热板、石墨烯散热膜端侧AI 运行时处理器能耗高,产生大量热量,要求更高效散热,手机厂商扩大蒸汽室面积,并探索更高效散热方案软件AI OS 系统级接入AI端侧AI 本地部署要求从底层重构操作系统,新一代系统如 HarmonyOS 使AI 能力全面下沉 OS,为上层服务应用提供原子化、控件级AI
22、能力资料来源:钛媒体、anandtech、快科技、nextpit、intel、华为AI终端白皮书,东兴证券研究所过去,处理器、内存、电池、散热以及软件等因素曾严重限制了端侧智能的发展。过去,处理器、内存、电池、散热以及软件等因素曾严重限制了端侧智能的发展。处理器性能不足,难以快速处理复杂的智能任务;内存容量有限,无法承载大量数据的运算需求;电池续航能力弱,难以支持长时间的智能运行;散热不佳会导致设备过热降频,影响性能发挥;而软件的不完善也使得智能应用的体验大打折扣。但随着技术的不断进步,主要问题正逐步得到解决。如今,强大的处理器能够高效处理各种任务,大容量内存让数据存储和运算更加从容,新型电池
23、技术提升续航能力、加快充电速度,依托VC 均热板、石墨烯散热膜等的散热设计确保设备稳定运行,软件也在不断优化升级,为端侧智能的发展铺平道路。表表:端侧智能层面主要技术进步端侧智能层面主要技术进步硬件方面,硬件方面,NPU异构方案为异构方案为AI PC提供充足算力提供充足算力软件方面,轻量化模型让本地部署成为可能软件方面,轻量化模型让本地部署成为可能异构方案指异构方案指CPU+NPU+GPU协同运用,提供强劲并行计算能力,以协同运用,提供强劲并行计算能力,以适配本地运行适配本地运行AI的算力需求。的算力需求。NPU是神经网络处理单元,能够快速进行大量矩阵计算,专用于处理神经网络相关任务,如深度学
24、习推断和训练,可作为AI算力的重要来源。根据英特尔定义,AIPC需要满足NPU算力大于40TOPS,才能够胜任本地LLM的运行和训练任务。有厂商表示,大部分AI PC芯片将在今年下半年推出,但搭载新款NPU的笔记本电脑要等到2024年底或2025年初。预计在2025年杀手级应用推出后,将推动软件和硬件性能同步,从而有更大的机会增加AI PC的出货量。厂商厂商芯片名称芯片名称NPU算力算力AMDAMD Ryzen AI 300 50TOPSINTELINTEL Lunar Lake 48TOPS高通Snapdragon X Elite45TOPSAPPLEM438TOPS轻量化模型涌现,轻量化模
25、型涌现,AIGC应用本地运行成为可能。应用本地运行成为可能。传统主流LLM参数量在千亿甚至万亿以上,需要数据中心运行,强能力伴随高能耗,难以落地端侧部署。轻量化模型参数量较少(常见如3B,7B),但经过优化可以完成特定任务,达到低能耗高性能的效果。端侧AI部署需要轻量化模型。目前轻量化模型已有较为成熟的产品:厂商厂商模型名称模型名称参数量参数量MetaLlama-3-8b8bMicrosoftPhi-33.8b、7b、14bGoogleGemma2b、7bMistral Mistral Nemo12b系统级系统级AI应用结合轻量化模型,打造应用结合轻量化模型,打造AI PC核心体验。核心体验。
26、微软Copilot、Apple intelligence等系统级AI应用将会结合大语言模型创造全新人机交互体验,提供颠覆性的功能。2.2.1 PC技术:技术:NPU异构方案异构方案+轻量化模型部署轻量化模型部署资料来源:tomshardware、amd、高通、anandtech、apple、53ai、google、mistral,东兴证券研究所+端侧:自研高斯大模型云端:谷歌 Gemini Pro高通:骁龙高通:骁龙8Gen3骁龙8Gen3搭载的NPU性能较上代提升98%,算力达到45TOPS,SoC总算力达到73TOPS支持100亿参数大模型联发科:天玑联发科:天玑9300支持330亿参数大
27、模型支持端侧LoRA内存硬件压缩技术浮点数算力是上代两倍APPLE:A17 proNPU浮点数算力是上代两倍NPU峰值算力为35TOPS2.2.2 手机技术:头部玩家押注手机技术:头部玩家押注AI,端云结合赋能功能落地,端云结合赋能功能落地端云结合是端云结合是AI手机大模型部署的主流解决方案。手机大模型部署的主流解决方案。端侧大模型负责算力要求较低的AI工作,如翻译、图片编辑、本地搜索;头部手机厂商大多选择自研轻量化的本地模型,端侧模型优势点在于低延迟、低成本、信息安全、个性化等,云端大模型负责算力要求高的AI工作,如文生图、视频编辑、在线智慧搜索。手机厂商通常接入参数量巨大的云端大模型,云端
28、模型优势点在于功能强大、算力高,通过端云结合,根据任务要求分配端侧/云端大模型,达到速度与性能相对平衡厂商厂商自研大模型自研大模型三星高斯大模型小米MiLM荣耀魔法大模型vivoAndesLMOPPO蓝心华为盘古大模型GoogleGemini Nano图:三星端云结合示例及主流芯片厂商性能情况图:三星端云结合示例及主流芯片厂商性能情况资料来源:澎湃、钛媒体、腾讯、东兴证券研究所资料来源:芯智讯、量子位、cpumonkey、东兴证券研究所表:主流手机厂商自研大模型情况表:主流手机厂商自研大模型情况AI赋能可穿戴设备,技术创新贡献强劲增长动力。赋能可穿戴设备,技术创新贡献强劲增长动力。AI技术的发