企业该如何选择大模型？除了算力还要看三个指标

5月9日，百度智能云在北京举行文心大模型技术交流会，向在场的百家企业展示文心大模型在产品技术、场景研发、生态建设等领域的最新进展。

大模型引发的AI再造产业趋势已经势不可挡。但当下企业最大的难题是，如何高效、低成本得获取大模型能力，如何挑选到最合适的大模型服务。

百度智能云方面表示，正在内测的“文心千帆大模型平台”，是全球首个一站式的企业级大模型生产平台，不但提供包括文心一言在内的大模型服务及第三方大模型服务，还提供大模型开发和应用的整套工具链。

未来，文心千帆将提供两种服务：第一，文心一言是目前中国市场最领先的大模型，未来，文心千帆将以文心一言为核心，提供大模型服务，帮助客户改造产品和生产流程。第二，作为一个大模型生产平台，企业可以在文心千帆上基于任何开源或闭源的大模型，开发自己的专属大模型。

百度集团副总裁侯震宇表示，大模型时代下，企业的创新要脱颖而出，不但需要智能的算力、灵活的框架平台、丰富的大模型体系以及优质的应用方案，还需要这四者之间端到端的适配与优化，这是一个“既要、又要、还要”的端到端创新工程。

（百度集团副总裁侯震宇）

现场，百度智能云与联想集团、用友、宝兰德等14家文心千帆生态伙伴举行签约仪式。

用友网络副总裁、用友研究院院长吕建伟表示，中国企业关注大模型的落地能力，一个简单的智能问答背后有着非常复杂的加工过程。我们期望和百度智能云一起，把微调、性能调优等工具简化，推动大模型应用。

北京宝兰德软件董事长易存道表示，如何把大模型在垂直行业做好，是目前各个企业都要考虑的问题，多数企业无法像百度一样有能力建设大模型。怎么能够把百度的大模型能力和企业业务有效结合起来，创造更强的价值，是企业非常好的弯道超车机会。

（百度智能云与14家文心千帆生态伙伴举行签约仪式）

国内第一个！百度工程师现场演示大模型微调全过程

事实上，目前企业应用大模型面临诸多难点：模型体积大，训练难度高；算力规模大，性能要求高；数据规模大，数据质量参差不齐。大模型产业化需要云计算厂商将模型开发、训练、调优、运营等复杂过程封装起来，通过低门槛、高效率的企业级服务平台深入产业，为千行百业提供服务。

侯震宇表示，文心千帆大模型平台是全球首个一站式的企业级大模型平台。之所以称为全球首个一站式平台，是因为它不但提供包括文心一言在内的大模型服务，还提供大模型开发和应用的整套工具链。此外，该平台还支持各类第三方大模型，未来将成为大模型生产和分发的集散地。

目前，文心千帆大模型平台提供公有云服务、私有化部署两大交付模式。

在公有云服务方面，将提供：推理（直接调用大模型的推理能力）、微调（通过高质量精标业务数据，高效训练出特定行业的大模型）、托管（将模型发布在百度智能云，以实现更加稳定高效的运行）三种服务，大幅降低企业部署大模型的门槛。

百度智能云AI与大数据平台总经理忻舟在现场演示了如何微调大模型，这也是国内首次演示如何微调行业专属大模型的全过程。文心千帆大模型平台提供了可视化开发工具链，提供了数据生成、标注、回流的数据闭环管理功能。客户以少量数据即可发起模型微调，最快几分钟就可获得自己的专属大模型。

在私有化部署方面，文心千帆大模型平台支持软件授权（提供在企业环境中运行的大模型服务）、软硬一体（提供整套大模型服务及对应的硬件基础设施），租赁服务（提供机器和平台的租赁满足客户低频需求）三种方式。私有化部属能够满足对数据监管有严格要求的企业客户需求。

忻舟总结，文心千帆大模型平台有六大特点：更易用，开箱即用，节约客户机会成本；更全面，提供覆盖全生命周期的工具链；更高效，可以端到端的全流程优化；更安全；更开放；更集成，更多插件拓展模型能力边界。

（百度智能云AI与大数据平台总经理忻舟：文心千帆大模型平台有六大特点）

“快且收敛，是大模型应用训练中一个非常重要的指标。”忻舟说，“只快不收敛，大模型的训练是没有用的。文心千帆在多机多卡训练性能方面，可以更快达到收敛的状态，在全球权威AI基准评测MLPerf榜单中排名世界第一。”

已有300余家生态伙伴参与文心一言内测

据了解，百度内部产品正在基于文心一言升级。

比如，在百度员工内部的智能工作平台“如流”上，很多程序员会就一些产品或技术难题询问产品经理、研发同事，数量多，频次高。过去获得一个答案平均时间约5分钟，现在如流有了一个文心千帆AI小助手，可以代替同事自动回答各种问题，平均5秒就可以解答一个难题，大幅提升了工作效率。

同时，百度智能云的金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识管理、数字人直播平台等六大智能产品系列，将基于文心大模型全面升级，未来将在安全评估完成后上线。

此外, 文心千帆大模型平台面向首批企业客户内测以来，正在与不同领域客户联合研发，在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。

金山办公助理总裁田然表示，金山办公要跟中国优秀的大模型提供方站在一起，做好大模型应用方的角色，用更好的办公软件，为客户提供更多的价值。文心千帆在安全合规、模型深度、迭代速度、推理性能等多个方面都有一定的优势，在意图理解、PPT大纲生成、范文书写、生成待办列表、文生图等多模态生成的场景上，双方的联合开发已经取得了进展。金山办公和文心千帆的合作，会进一步推动大模型在办公领域的应用和快速落地。今天的合作只是刚刚开始，未来金山办公与百度将在更多更有价值的功能和产品上持续探索。

百度还帮助长安汽车构建了人工智能基础设施平台和数字人平台。现在双方基于百度文心大模型正在开发一款智能产品，赋能长安汽车的一款量产车型，打造创新性的用户体验和持续的研发动能。

百度集团副总裁袁佛玉表示：“截止目前，已有超过300家生态伙伴参与文心一言内测，在400多个企业内部场景取得测试成效。”

企业该如何选择大模型？除了算力还要看三个指标

企业该如何选择大模型？除了算力还要看三个指标

Recommend

AI语言大模型爆发，算力燃料能跟得上吗？

大模型玩家抢购算力，国产GPU还差了一个软件生态

ChatGPT 限流，生成式大模型触碰算力天花板？

集群算力提升三倍，腾讯云发布国内性能最强的大模型算力集群

上海市算力网络数字医疗创新实验室发布医疗大模型“Uni-talk”

上海市算力网络数字医疗创新实验室发布医疗算网大模型“Uni-talk”

左手算力右手应用北京冲刺“大模型”

大模型热潮引发算力需求暴增专家：算力是短板，也是发力机会

大模型爆火GPU陷供应短缺，算力租赁需求兴起

AI时代除了算力我们还需要大容量硬盘！佰维NV7200 PCIe 4.0 SSD新品来袭

About Joyk