深度学习+大模型：智启百业新征程

百度飞桨（厦门）人工智能产业赋能中心主任

于明睿

尊敬的各位领导、各位专家、同仁们，大家下午好我是来自百度飞桨于明睿，我今天分享的主题是“深度学习智启百业新征程”。

之所以选定这样的题目其实是在人工智能赋能千行百业关键窗口期，随着深度学习和大模型技术不断的迭代，其实底层去驱动产业创新的逻辑是持续在变化的，飞桨在深度学习和大模型这个领域上有所深耕，因此今天选择这样的主题汇报一下我们的相关工作，经验和相关的成果。

过去的三年时间里，随着大模型技术的不断推陈出新，大模型也越发、频繁地出现在大家的视野内，包括2023年ChatGPT的出现，后来诺贝尔相关的物理学奖和化学奖都颁给了人工智能相关的从业者，到今年年底年初时DeepSeek的横空出世，AI已经融入我们的工作、学习和生活的方方面面，从这个医疗到工业，从农业到能源，从教育到文创，从产业界到学术界，其实相关的从业者普遍都认为我们目前正处于一场以AI作为底层驱动力的第四次工业革命。

在日常进行产业赋能的过程中，我们实际接触到的行业种类繁多。针对这些行业，我们梳理并总结了过往案例，提炼出共性的经验，并识别出六大技术难点评估难、变化迅速、人才匮乏、门槛高企、经验不足以及启动困难。

针对这些挑战，飞桨提出了我们的产业赋能公式——飞桨大航海技术。在这一技术框架下，我们主要投入大模型资源和产业生态资源，与各类技术伙伴共同构建一个完整的数据底座。通过大模型工具的连接，我们携手打造面向各产业的AI原生应用，以进一步推动行业增长。

所谓的大模型资源（左侧），通过构建在理解、记忆、逻辑、生成等多个方面表现卓越的模型，奠定坚实的技术基础。在产业生态资源层面，我们采取下沉式运营策略，与终端企业及上下游软硬件的SV伙伴紧密合作，构建协同体系，实现产业与Al的深度融合。

在数据层面我们围绕数据的整体产业链形成了一套包含治理、生产、评估、交易的全流程办法，能够依托这样的数据基座，培育出更好的AI产品，AI工具其实就是面向各个产业进行赋能的过程中，他会涉及顶层的算法工程师，中层的技术伙伴，包括底层日常的运维人员，我们会结合对应的能力，去落地相应的技术工具，加速AI在各个产业里面落地的一个时效性。

背后所依托的整体逻辑就像刚才华为的同仁介绍的，其实在人工智能这一块，我们进入到这个时代，传统的IT技术架构已经从以往的三层变为了心理四层，这里面用一个厨房的比喻来做类比像芯片就相当于我们的火，具体煲什么汤，用文火和烈火，火其实是非常重要的，这就是我们的资源。

在框架层可以理解为是一个厨具，如果是要喝汤的话你单纯通过烤的方式没有锅也是完成不了的，他起到的作用更多的向下广泛的适配国产新创的芯片。

模型层可以理解为算法就是厨师厨艺更精湛的人能够训练出更好模型，更好支撑于上游应用，应用层就是最后端出来的那盘菜，菜做得好不好跟这三层强相关。

这里面还缺了一个，刚才各位专家广泛提到的数据，数据我们可以把它类比成一个食材，食材的好坏将直接影响这道菜是不是好，就像算法工程师里面流行的一句话“好的数据才能构建出更加有效的模型”。

我们分享几个在产业落地过程中最核心的一些思路和方法，结合刚才说的六大困难问题，最重要的就是性价比，我们在产业落地过程中，其实会碰到纷繁复杂的问题。为了解决这些问题，我们更多会采用大小模型相结合的方式，面对一些通用型任务，我们会选用大模型，因为泛化能力强。

对数据能够更高效利用，面对一些确定性强，包括时延性高这样特定场景的问题，我们更多是选用小模型，能够在有限算力资源内表现得更佳，反馈时延更低，包括给予结果更加确定，对业务的支撑会更加稳定。

飞桨深度学习框架，刚才已经把它比喻成“锅”，它其实更多起到的作用是向下去适配国内外一些主流芯片。包括像国内目前30多款国产芯片，其中有21款我们也发布了对应的飞桨发行版，向上主要是依赖于大模型训推一体，动静统一，这些特色技术支持大模型更低成本、更高效率进行开发训练还有部署。

依托飞桨的支持，我们发布了文心大模型矩阵，在25号的大会上我们发布了最新X1Turbo和4.5Turbo，在运行成本和效率上有了进一步提升，也是产业级知识增强多模态大模型，目前配合多端工具也在各行各业里面进行广泛的落地，目前的日均交易量也是达到16.51。

同时，在推进产业落地的过程中，我们不可避免地会遇到开源模型套件的实际应用问题。为此，我们推出了PaddleNLP和PaddleMIX两款套件：前者是一个大语言模型套件，后者则专注于多模态应用。这两款套件的核心作用在于，使终端客户能够实时享受到最新开源模型的性能，有效支撑全产业链的高效推理，确保在产业落地过程中实现极致的效果和效率。此外，它们还能保障安全性，因为支持私有化部署。

举个例子，刚才一直提到的DeepSeek，通过飞桨框架的广泛适配，我们对MLA算子进行了适配，包括对MTP投加解密器的优化，最终在吞吐效率、解码速率和首Token的推理数据上实现了全面优化。一台4比特单机部署的DeepseekR1满血版，在通过飞桨适配后，其吞吐效率翻倍，达到每秒可处理2000个Token，这一效果显著优于国外一些开源方案。

在开源工作中，更多我们会面对各类开发者，各类的伙伴会遇到通信问题，在这种场景下集中体现在一开始的冷启动过程，我们也是推出低代码工具，因为一开始传统行业的伙伴没有配备这么多的算法工程师，通过低代码的工具能够快速把这个业务跑起来，模型可以训起来。

同时，在后续持续维护过程中，我们也不需要依赖于专业的算法工程师，由我们厂房自己的人员，比如说业务上我的工艺流变化了，或者是我的物料单发生了变化，进一步对模型进行影响。我通过低代码的工具能够快速对模型进行训练，持续地去满足产线变更。

除了在刚才介绍的算法、框架、硬件这一类的有效支撑外，未来AI原生产品的质量或者是我们对终端业务的支撑更多基于这个数据，数据的质量差异化和竞争力其实就显得尤为重要，在这里我们也是推出了数据生态的整体运营方法，包含了三大类的主体。

一是在数据共创联合体中，我们携手全国各行业的数据矿主及数据链相关主体，共同构建这一联合体。我们的目标是以大模型应用为导向，通过数据挖掘与合成、数据分析与评估、模型能力反馈等环节，形成数据建设闭环，从而构建大模型时代高知识密度的行业数据集。

二是数据生态中心的建设，整体数据生态的繁荣离不开全面的运营支持。我们通过人才培养、数据应用构建数据产品，并打造区域整体供需的数据产业链，以激活生态活力，促进数据在生态中的流动，最终实现真正有价值的数据资产。

三是目前我们已邀请行业内的顶尖专家、教授及KOL，进行知识传授、模型质量评测及专业结果校准，进一步与数据生产工作形成闭环，打造数据飞轮，提升数据生成的效率与质量。

最后，回顾刚才所介绍的数据、技术和硬件，我们总结如下：我们依托飞桨和文心两大核心开源平台的能力，汇聚了技术伙伴、数据伙伴及硬件生态伙伴，共同构建了一个开源开放的人工智能社区。在这个社区中，经过十多年的精心运营，我们凝聚了超过2000的开发者，服务了67万家企业，共同打造了110万个模型。正是得益于这样活跃的生态系统，我们才能进一步支撑千行百业的有序发展。

同时，在福建省多级领导的鼎力支持下，我们于今年1月份成功落地了百度飞桨人工智能产业赋能中心。右侧展示了该中心取得的一系列阶段性成果。未来，我们期望以该中心为载体，将百度前沿技术、生态伙伴及产业经验全面融入当地，聚焦福建优质产业，助力培养符合新时代需求的Al人才。通过这一举措，我们旨在进一步支撑产业开发Al原生产品，最终推动福建经济社会高质量发展，加速产业创新与科技创新的深度融合进程。

各位同仁，当我们回望人类的进步时，真正伟大的创新从来不是替代，而是赋能，文心和飞桨其实要做的就是让每个工厂，每个田地，每个农村都能够享受到AI的红利，让我们用中国智慧开启时代的篇章，用科技让复杂的世界更简单，谢谢大家！

（以上内容根据嘉宾发言速记整理）