直击百度世界大会 | 沈抖手把手教企业如何用上大模型-品玩

直击百度世界大会 | 沈抖手把手教企业如何用上大模型-品玩业界动态

直击百度世界大会 | 沈抖手把手教企业如何用上大模型

　　面向企业客户启动文心大模型4.0 API调用服务测试申请，服务超过17000家客户，在各行各业的近500个场景中进行大模型应用落地探索……自今年3月面世以来，百度智能云千帆大模型平台作为全球首个一站式企业级大模型平台，为业界交出了唯一一份“满分成绩单”。

　　10月17日，百度世界2023在北京首钢园召开。百度智能云在大会期间宣布：全面升级“云智一体”战略，面向客户落地大模型的五类需求提供全栈服务方案；面向AI原生应用开发，重磅发布“千帆AI原生应用开发工作台”，加速企业AI原生应用落地；发布国内首个AI原生应用商店，以及国内首个大模型全链路生态支持体系，赋能伙伴商业增长，共建、共享繁荣的大模型产业生态。

　　（百度集团执行副总裁、百度智能云事业群总裁沈抖）

　　满足企业大模型落地五大需求：百度智能云升级“云智一体”战略

　　自2020年起，百度智能云在业界率先提出“云智一体”战略，并在技术架构与服务等方面进行了多次迭代升级。本届百度世界大会，“云智一体”的战略内涵全面升级为“云智一体，深入产业，生态繁荣，AI普惠”。

　　百度集团执行副总裁、百度智能云事业群总裁沈抖表示，人工智能与云计算的深度结合是企业快速落地AI原生应用的关键，这也是百度智能云始终倡导和践行的“云智一体”理念。目前，百度集团所有应用和服务全部基于”云智一体“技术架构运行在百度智能云上。此外，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”分别给出了最佳服务方案。

　　（大模型时代的云智一体）

　　首先，针对只有算力需求的客户，千帆平台可以提供极致高效和性价比的异构算力服务。在客户最关心的大模型训练环节，通过分布式并行训练策略和微秒级互联能力，千帆平台可以实现万卡规模集群训练的加速比达到95%；通过事先防范、事中及时发现、定位、解决，最大限度避免集群因故障等原因产生的无效运转，提高有效训练时间占比，万卡集群有效训练时间占比达到96%，充分释放集群有效算力，大幅降低客户算力与时间成本。

　　此外，千帆平台还兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国内外主流AI芯片，支持客户以最小的切换成本完成算力适配。

　　面壁智能携手知乎，基于百度智能云提供的AI算力集群，训练出“知海图AI”大模型和多模态大模型Luca，在千卡集群上的有效训练时间占比高达99%，在保障模型训练连续性的同时，可以实现模型训练效果的高效收敛。此外，知乎、好未来、地平线等企业也正在基于百度智能云提供的AI算力服务，以更加稳定、高效和经济的方式实现大规模集群的训练和管理。

　　其次，在模型层面，对于希望直接调用已有大模型的客户，千帆平台纳管了42个国内外主流大模型，企业客户可以快速调用包括文心大模型在内的各种大模型的API，获取大模型能力。对于第三方大模型，千帆平台还针对性地进行了中文增强、性能增强、上下文增强等优化。目前千帆平台已经服务了超过17000家客户，大模型API调用量持续高速攀升。

　　第三，对于希望基于现有大模型进行二次开发的客户，千帆平台为大模型的再训练、微调、评估和部署等环节提供全生命周期工具链、业界最多的41个高质量行业数据集，帮助客户针对自身业务场景快速优化模型效果。目前，包括中国邮政储蓄银行、度小满、金山办公、河北高速集团在内的诸多行业头部客户，都正在通过千帆平台提供的工具链服务开发出贴合业务需求的专属大模型。

　　第四，在应用层面，一部分企业需要基于大模型服务去开发AI原生应用，千帆平台上提供的一系列能力组件与框架，可以帮助企业快速完成应用开发，灵活地响应用户与市场需求。

　　最后，另一部分客户则希望直接、方便地选购成熟的AI原生应用产品，赋能业务发展。

　　赋能企业高效开发AI原生应用：发布“千帆AI原生应用开发工作台”

　　为了满足企业敏捷、高效地进行AI原生应用开发的需求，降低AI原生应用开发门槛，百度智能云重磅发布“千帆AI原生应用开发工作台”，将开发大模型应用的常见模式、工具、流程，沉淀成一个工作台，帮助开发者聚焦在自身业务，而无需为开发过程牵扯多余精力。具体来讲，千帆AI原生应用开发工作台主要由应用组件、应用框架两层服务构成。

　　应用组件服务由AI和基础云两大类组件构成，是对底层服务能力的组件化封装，让每个组件完成一个特定的功能。“AI组件”中既包含诸如问答、思维链（CoT，Chain of Thought）等大语言模型组件，还包括文生图、语音识别等多模态组件，而“基础云组件”则包含向量数据库、对象存储等传统云服务能力。

　　应用框架则是通过将上述这些组件有选择地串联、组合起来，让它们能够比较完整地完成一个特定场景的任务。目前，千帆平台上提供的检索增强生成（RAG）、智能体（Agent）就是常用的AI原生应用框架。在每个框架下，百度智能云还提供丰富的样板间，支撑开发者敏捷、高效地进行AI原生应用开发。

　　（百度智能云重磅发布AI原生应用开发工作台）

　　检索增强生成（RAG，Retrieval Augmented Generation）框架，可以更高效的利用企业专有领域内的知识，并在大模型的帮助下根据相关问题做出精确回答，是专业知识问答类AI原生应用的必备核心能力。

　　大会现场还进行了如何基于RAG框架，为三一重工快速开发知识问答应用的实操演示：只需在千帆AI原生应用工作台中选择预置的RAG框架，进行相应的参数配置等工作，就可以快速实现三一重工官网智能客服应用的开发与上线。沈抖表示，搭建这样一个“小助手”，即使需要处理几千篇万字长文档，成本也只需几百块钱；而之后用户每次咨询，成本仅需几分钱。

　　智能体（Agent）作为当前业界流行的应用框架，可以对人类给定的任务进行自动拆解，自动规划并调用各种组件协同完成任务，同时根据任务完成效果得到反馈，改进自身能力。目前，Agent框架已经在工业、交通等领域得到了广泛应用。

　　中天钢铁基于千帆AI原生应用开发工作台提供的Agent框架打造了智能化的“企业调度中枢”，实现了任务指令的自动感知、分解与执行。比如，在发现钢铁产量不达标时，用户只需提问一次，大模型就可以自动调用平台纳管的各种资源和API，完成BI取数、第三方根因分析等工作，找到未达标原因，及时调整排产计划并发送邮件通知调度人员。

　　（中天钢铁基于Agent应用框架打造企业调度中枢）

　　繁荣产业生态：国内首个AI原生应用商店、全链路大模型生态体系集体问世

　　为了满足企业客户便捷选购优质AI原生应用的需求，赋能伙伴商业成功，百度智能云重磅推出：国内首家面向企业客户进行一站式交易的AI原生应用商店——百度智能云千帆AI原生应用商店，旨在为大模型时代AI原生应用的供需双方建立起便捷、可靠的联接通路，大幅提升客户应用选型与采购效率，为伙伴商家创造更多商机。目前，企业用户可以通过百度智能云官网，进入千帆AI原生应用商店，选购心仪的AI原生应用。

　　（百度智能云千帆AI原生应用商店）

　　本届世界大会，百度发布了国内首个生成式商业智能产品——百度GBI（Generative Business Intelligence）。BI（商业智能）是当下展现大模型能力“天花板”的典型应用场景之一。百度GBI作为AI原生应用引擎，基于文心大模型实现了“智能问数”能力的全面重构：面向任意数据库，都可以通过对话一步完成查询与分析，相比传统BI大幅提升了数据分析的效率，降低了数据分析专业能力要求。

　　以企业经营数据分析为例，百度GBI可以把商业数据分析师十几天才能完成的数据分析、撰写报告的工作时长，从以天为单位缩短到以分钟为单位。而作为一类AI原生应用框架产品，百度GBI还可以实现极简的跨行业、跨领域能力迁移，快速落地如城市治理分析、能源消费洞察、工业设备运行管理、金融投资决策、交通拥堵治理等场景中，高效实现政企BI类AI原生应用的开发构建。

　　金蝶作为首批入驻千帆AI原生应用商店的伙伴，联合百度智能云于2023年8月8日重磅发布了金蝶云·苍穹GPT，并率先推出业界首个财务大模型，助力客户更加高效地进行财务管理与分析，提高财务处理的准确性和规范性，为企业的长期稳定发展提供强有力的保障。

　　大模型技术不仅正在重塑云计算的服务模式和产品形态，也正在重塑云计算产业的生态格局，对云计算厂商和其覆盖千行百业的合作伙伴的能力与体系建设提出了全新要求。

　　为了助力合作伙伴们取得大模型时代的商业成功，百度智能云建设并推出了国内首个大模型全链路生态支持体系，并为10家综合伙伴、100家应用伙伴、1万家以上的初创企业以及代理伙伴，提供包括千帆社区、AI原生应用孵化、销售商机、市场营销、赋能培训，以及千帆AI原生应用商店等全方位的支持。

　　百度集团副总裁袁佛玉表示，“在这个瞬息万变的时代，百度不仅要在大模型技术和商业化探索的道路上勇闯无人区，还要与众多合作伙伴共同打造繁荣的产业生态，共同探索新的商业模式和商业机会，实现真正的合作共赢。”