随着大模型行业开源、降本趋势进一步明确,人工智能(AI)端侧应用再度成为市场关注焦点。在近日举行的“人工智能终端产业发展研讨会”上,中国工程院院士邬贺铨表示,云边端协同大模型落地推动了AI终端应用发展。作为用户侧承载大模型部署任务的重要载体,AI终端将加快智能升级和自主进化,激活万亿元规模产业。
回顾过去四十年通信终端的演进史,从3G开始,手机从功能机进入智能手机时代。“再到5G、6G的层层跨越,通信技术逐步进入了以AI为核心的新阶段,AI手机、AI PC等各种AI终端正向我们走来。”邬贺铨表示。
魅族最新发布的AI手机
邬贺铨认为,AI终端新时代的到来,主要得益于大模型的落地。具体而言,云端大模型主要承担全局性任务,包括模型训练、跨边缘节点的数据聚合与分析优化等;边缘大模型负责实时推理与局部决策,同时向云端回传高价值结构化数据;端侧大模型则发挥超轻量优势,完成即时感知与响应,同时也过滤一些数据,回送到边缘和云端。
“随着通信终端向AI终端发展,终端架构也有所变化,底下的硬件层还是原来的硬件,但是计算单元已经不仅仅是CPU了,出现了CPU+GPU/NPU等异构单元。除了计算单元,存储单元的性能也有了大幅提升,目前高端手机的显存已经做到了24GB,存储空间达到了1TB,已与PC相当。”邬贺铨感慨说道。
同时,他表示,大模型的接入让终端操作系统也发生了很大变化,不仅要支持异构计算框架,还要实现计算资源调度以及多模型分析共享。操作系统支持的不仅仅是一个模型,还有多种智能体。未来只要对AI手机喊一句“帮我点一杯咖啡”,它就能知道你平时是要打开美团APP、选择瑞幸购买大杯热拿铁,还会自动通过微信、支付宝帮你支付。在工业领域,一个工人要开机床,工业智能体已经学习过他的习惯性动作,所以只需要下个命令就能自动执行。
“现在的智能体大部分还在操作系统外缘,但是未来的智能体可能会嵌入到操作系统内核甚至框架之中,这样就可以直接调用大模型来解释用户需求,当然这也会让操作系统变得更加复杂。”邬贺铨表示。
从智能终端到AI终端,整个终端从底层硬件到操作系统,再到应用框架,都将发生很大的变化,绝不仅仅是增加了一点软件功能而已。邬贺铨指出,一方面,端侧大模型将优化AI应用体系,形成“终端感知+边缘推理+云端训练”的协同模式;另一方面,精简的端侧大模型嵌入边缘/端侧,让大模型与终端能力结合,也将为终端本身赋能。
不同于传统的智能终端,AI终端具备主动感知理解、多模态交互、智能化服务和自主学习进化四大功能,可以实现从感知、理解、交互、决策到服务全流程的智能升级和自主进化。
联想AI眼镜
邬贺铨认为,AI终端不仅仅是功能的变化,应用模式也将随之改变。一是形态多样化,手机、PC、眼镜等可穿戴设备以及传感器、机器人、网约车等都能成为AI终端;二是功能智能化,从简单的通信终端向集智能体/具身智能、通感融合、通信计算定位控制于一体的AI终端演进;三是人机交互多模化,用户界面从图形界面(GUI)转变成语言界面(LUI),并将最终升级为智能体界面(Agent UI),用户可以通过自然语言、触摸屏、手势甚至唇语等多种方式实现交互,同时APP的存在感和独立性将被弱化,转而成为系统背后的服务工具;四是内容交互异构化,用户对终端发起提问时使用的是自然语言,而它反馈给你的回答可能是文字、图形,甚至可能是视频,提问和获得信息的呈现方式可能是不对称的;五是内容供应个性化,获取信息的方式从浏览到对话,内容产生的来源不再只是对外检索,也可能是用户在终端或云端自主生成,从内容预制到内容定制;六是通信连接多元化,未来的通信不再是点到点,可能是点到多点、多点到点,同时支持多归属、多切片、多接口,还可以是D2D和离线应用;七是应用服务泛在化,C端和B端应用服务相互补充,向着“人机物兼容、云边端协同、通感算融合、天空地互联”的美好愿景不断进发。
“AI终端将端侧大模型或智能体嵌入操作系统,释放UGC(User-Generated Content,用户生成内容)创意,增强用户体验,将激活万亿元规模产业。”邬贺铨预测说。根据Canalys的报告,全球AI手机出货量在全球智能手机市场的占比将从2024年的16%增长至2028年54%。全球AI PC在电脑市场的出货量占比也将从2024年的18%增长至2025年的40%。这一预测揭示了AI手机、AI PC市场迅猛的增长势头。
与此同时,一些新的增长点也逐渐浮出水面。比如,AI眼镜作为可与手机相连的智能外设受到广泛关注。受益于大模型下沉,直接或经手机上云的轻量级AR眼镜将在工业和医疗领域应用,率先进入市场。除消费电子领域外,AI终端的适用范围还可扩展至工业终端、商务终端、交通工具、物流终端、教育终端、医疗终端、养老终端等诸多领域,广泛服务于社会生活的各个方面,具备广阔的发展前景和创新空间。
不过,AI终端技术研发尚处于探索阶段,仍面临许多挑战。邬贺铨指出了几个值得关注的问题:其一,业内统一标准缺位,AI终端产业需定义统一的模型接口、模型格式、通信协议、数据交换协议和算力调度标准,以实现跨厂商、跨平台的兼容,确保云边端模型的迁移和数据互通。其二,AI终端创新面临端侧算力瓶颈,端侧芯片自主创新压力大,芯片厂商需和操作系统厂商联合优化实现软硬件协同设计。其三,软硬件兼容适配能力有待提升,在不改变操作系统底层架构的前提下实现终端操作系统高效扩展,需精准对接操作系统接口,需正视不同平台间的差异性;如果要把AI融入操作系统内核,需全面重构系统架构。其四,数据存在安全与隐私风险,需要在保障数据有效利用的同时严格遵守数据隐私法规。其五,端侧大模型需在AI能效比指标下优化,要在能耗与性能之间平衡寻优。其六,AI终端依赖云边端协同,对通信带宽、时延和可靠性都提出了更高的要求。
推荐阅读
经典栏目
精彩专题
关注我们
大视频行业颇具影响力的行业社群平台,重要新闻、热点观察、深度评论分析,推动电视行业与各行各业的连接。
集合电视台、网络视听、潮科技等各种好玩信息。
专注于报道广电行业新鲜5G资讯,致力于成为广电行业有权威、有深度的5G自媒体平台。
UHD、4K、8K的最新资讯和最深入的分析,都在这里。
视频产业的专业圈子,人脉、活动、社区,就等你来。
我们只沉淀有深度的信息和数据。
致力于卫星电视信息、卫星通信技术、天地一体网络应用案例、以及广电、通信等产业的市场动态、政策法规和技术资讯的传播。