“火山方舟”发布，字节跳动的大模型故事怎么讲？

“火山方舟”发布，字节跳动的大模型故事怎么讲？

随着大模型时代到来，企业们纷纷摩拳擦掌，涉足大模型领域。国内的大模型市场正在呈现一个如火如荼、百花齐放的状态。

6月28日，字节跳动旗下火山引擎发布大模型服务平台“火山方舟”，面向企业提供模型精调、评测、推理等全方位的平台服务（MaaS，即Model-as-a-Service）。

目前，“火山方舟”集成了百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI（以拼音首字母排序）等多家AI科技公司及科研院所的大模型，并已启动邀测。

为大模型厂商提供服务

技术的革新，也会带来行业的变化。“十年前，中文互联网开始从PC时代转向移动时代，这其中最大的技术创新就是个性化推荐算法。五年前，4G技术开始普及，带宽不再成为瓶颈，以抖音为代表的短视频，也正是在这次技术变革期间涌现出来的新体验和新交互。时间来到现在，大模型已经当仁不让拿起了技术革新和体验创新的接力棒。”火山引擎总裁谭待在发布会上说到。

火山引擎总裁谭待

大模型将渗透到千行百业，变革人机交互界面，影响人们获取信息/处理信息/学习和掌握知识的习惯， 最终深刻影响行业格局。火山引擎智能算法负责人吴迪表示，在B端的大模型供给，将长期呈现百花齐放的面貌。国内将有二十余个有影响力的通用基座模型和领域模型， 解决下游客户的实际问题，创造大量商业价值。

火山引擎智能算法负责人吴迪

据中国科学技术信息研究所等机构发布的《中国人工智能大模型地图研究报告》显示，截至今年5月，国内已公开披露的大模型数量达到79个。

此时入局，也是字节跳动对于技术变革带来新机遇的把握。谭待也谈了自己对于大模型市场的判断，他认为，未来的大模型市场将是一个百花齐放的多模型生态，在这个生态系统中，将同时并行存在几个少数的超大规模的大模型、多个中等规模的大模型和更多个行业的垂直模型；这是由安全信任、行业壁垒和成本因素共同决定的。反过来，开放的市场竞争和模型多样性，又会进一步促进整个技术发展。

“尤其是行业头部企业，自身对于大模型的应用，将会是一个“1 + N”的应用模式，即：企业通过自研或者与三方模型服务商的深度合作，形成企业自身的1个主力模型；在这个主力模型之外，在不同的场景中，企业还会同时应用N个外部模型。”谭待说。在会后接受采访时他也进一步强调，火山引擎自己是不做大模型的”，而是将接入多家大模型深度合作，为大模型厂商提供服务。

解决信任问题，打造高性价比大模型平台

与小模型“自产自用”不同的是，大模型的生产门槛很高，数据安全成为大模型时代的新命题。

企业使用大模型，最担心的是数据泄露；如果将大模型私有化部署，企业将承担更高的成本，模型生产方也会担心知识资产安全。所以火山方舟要解决的是信任问题。

吴迪介绍，“火山方舟”已上线了基于安全沙箱的大模型安全互信计算方案，利用计算隔离、存储隔离、网络隔离、流量审计等方式，实现了模型的机密性、完整性和可用性保证，适用于对训练和推理延时要求较低的客户。

目前，抖音集团内部已有十多个业务团队试用“火山方舟”，主要用于代码纠错等研发提效场景，文本分类、总结摘要等知识管理场景，以及数据标注、归因分析等方面。

谭待介绍，在模型生产端，火山引擎已经通过优秀的算力系统和机器学习平台证明了自己，成为众多大模型企业的首选；在模型应用端，面对多模型生态和企业1+N应用模式，同样需要提供更好的产品和方案，解决计算、安全、成本等通用问题。“让交易成本足够低，让替代成本足够低，这样才能不断降低大模型的使用门槛，让众多企业可以更加高效地应用大模型技术。”

此外，在价格体系方面，吴迪透露，“火山引擎会把资源供应给大模型提供方，在供应里面就有一定的IaaS层面的利润。然后大模型供应方会刨除基本成本，在他们的基本成本上再叠加一个他们认为的合理利润，成为他们大模型在火山方舟上的定价。”

而对于下游客户使用大模型时的费用，吴迪表示，“付钱是两部分，第一个是模型服务费。第二个是平台服务费，平台服务费在相当长的时间我们都会设置成零。”训练大模型很昂贵，但从长期来看，模型的推理开销会超过训练开销。效果和成本的矛盾永远存在，降低推理成本会是大模型应用落地的重要因素，“一个经过良好精调的中小规格模型，在特定工作上的表现可能不亚于通用的、巨大的基座模型，而推理成本可以降低到原来的十分之一。”

企业选择大模型会有很多因素，除了技术之外也要考虑到商务价格、对方服务好坏等因素。“我认为更重要就是把平台搭好，让买方和卖方在下面能够更低成本进行交易才是最重要的。”吴迪说。

大模型带来的创新浪潮已来，大厂都不想错过大模型创业潮。6月19日下午，腾讯云宣布推出MaaS大模型服务，依靠腾讯云TI平台建造行业大模型精选商店，基于腾讯HCC高性能计算集群和大模型能力，为客户提供一站式大模型服务。如今这个赛道又多了字节跳动，对于行业来说，将会加速大模型在各行各业的应用落地速度。