深圳云天励飞技术股份有限公司副总裁
郑文先
尊敬的各位领导、各位企业家朋友,大家上午好!很高兴受主办方邀请参加这次数字中国建设峰会。
刚才各位专家从不同维度都介绍了我们智慧城市的一些建设思路。接下来,让我们一起聚焦边缘AI,让我们一起去探索一条在中国这种通用人工智能发展的有效路径。
从2022年openAI推出chatGPT到今天,应该说过去这700天是人类科技文明史迭代速度最为迅速的700多天,我们大模型的发展已经在深刻改变着我们的工作、生活和城市管理方式。
有两个标志性事件。
1.2022年chatGPT的横空出世,促进了云端AI的蓬勃发展,无论是国外科技巨头,还是国内互联网大厂和一系列大模型创业企业,都是通过云端AI发展去改变着我们的生活。
2.直到今年,在Deepseek横空出世以后,也让我们看到边缘AI正在加速到来。
什么是边缘AI?打个比方,如果把人工智能看作未来的水和电,云端AI好比发电厂,通过大模型的训练,我们去提升我们大模型的泛化能力,让大模型的能力越来越强,参数越来越大。大模型做出来之后,最大的价值是要在我的端侧和边缘侧运用,所以边缘够像是一个用电的过程,AI要走进千家万户,要走进千行百业,必须在边缘侧通过它的推理和落地的应用来提升这些大模型的价值。
为什么说边缘AI是中国人工智能发展的一个有效路径?因为我们知道中美在发展人工智能赛道上应该有6个不同要素,美国在算法、芯片、人才三个维度上遥遥领先。
在美国,是要推动云端AI的发展,让大模型的参数越来越大,大模型泛化的能力越来越强,所以走的是一条云端的无所不能的一个大模型发展路径。
中国的优势是在系统、应用和数据,我们要通过应用的创新,来带动我们源头创新能力的提升。所以,在中国我们要让这些大模型和AI技术在端侧和边缘侧广泛应用起来,它走的是一条无处不在的边缘AI之路。
边缘AI相比于云端AI具备的优势?
1.随着像Deepseek这些类型的低参数、强推理模型的出现,成本不断在降低,因为它对边缘侧算力要求并没有那么高,正是因为的模型平民化的应用,我们才能够实现无处不在的AI应用状态。
2.边缘AI通过私有化部署,离我们的用户更近,可以有效避免这些数据隐私的泄漏,这就是为什么在云端AI时代,这些工厂、这些企业不允许,也不可能去把自己的数据上传到云端,因为这里有数据隐私的问题。
3.边缘AI会离场景更近,他会高效响应客户的需求,更加灵活,他的时延会更低,通过快速的部署让企业,让更多的用户能够使用起边缘AI的能力。
云天励飞作为深圳本土成长起来的一家人工智能企业,我们现在也是科创板AI推理芯片的第一股,我们通过十年磨一剑的精神,不断打磨我们AINPU的推理芯片,通过我们算法芯片化的技术路径,赋能三个不同的应用的赛道。应该来说云天励飞是中国人工智能企业当中为数不多,早期从创业开始就既做我们的芯片又在做我们的算法研发,通过十一年的NPU之路,我们已经迭代了四款神经网络处理器的单元,在这个基础之上也成功进行了五次流片。
现在NPU的神经网络处理器是综合我们的底层的指令级,专用的算子,包括存算一体先进的架构,这些芯片在2019年开始在我们的端侧和边缘侧,开始为我们人工智能场景的落地提供端侧边缘侧的算力支撑。云天励飞的特点是全流程的自主可控,从芯片设计、制造、封装、流片都是在国内来完成,这是在发展过程当中也在不断受到美国的打压,于是我们到2020年就把全套的生产的制造的工艺从国外转到国内,目前也是中芯国际14纳米工艺线上唯一全量产的国产的AI芯片。
而且在2019年开始,伴随着国家重大专项的支持,我们也参与和主导11项关于深度神经网络处理器的国家标准建设,通过全新的技术,采用算力积木的架构,从而让我们算力的配置更加灵活,更加高效地去响应我们在边缘场景当中,不同情况下对我们算力的需求。
在NPU的算法芯片化的技术路径之上,我们在行业侧通过十年的沉淀,我们重点围绕着智慧警务,城市治理,智慧交通,低空和教育等板块形成一系列的城市级的解决方案。根据我们自己落地的经验,也把智慧城市的发展划分成L1-L5不同等级的智慧城市的迭代路径。在消费级应该说2025年是智能硬件的元年,昨天新闻报道了习近平总书记在上海调研时,体验了丰富多彩的人工智能的智能硬件的相关产品。
云天励飞基于底层核心芯片的能力,围绕着教育,围绕着毛绒玩具、智能眼镜等不同的品类也开发出了一系列产品。通过这些智能产品极大丰富我们的生活和工作,给人类提供相应的便利。
在企业级基于我们的核心芯片能力,开发出了一系列加速卡、模组和大模型推理的一体机,满足不同的企业方和机构对我们这些边缘侧大模型部署过程中的算力支持。上个月英伟达的产品发布会上,黄仁勋指出未来的五年应该有三类的基础设施,一个是企业级的AI基础设施,城市级的AI基础设施和机器人的AI基础设施。
云天励飞作为边缘AI的一家代表性企业,也希望未来在各地政府的支持下,跟我们合作伙伴一起,以边缘AI为核心,推动人工智能去赋能干行百业,一起探索出一条有中国特色的通用人工智能的发展路径。谢谢大家!
(以上内容根据嘉宾发言速记整理)
扫一扫在手机上查看当前页面


网站地图