3

政企市场,「观望」AI大模型

 1 year ago
source link: https://www.woshipm.com/ai/5848260.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

政企市场,「观望」AI大模型

2023-06-16
0 评论 723 浏览 0 收藏 12 分钟
释放双眼,带上耳机,听听看~!
00:00
00:00

数据安全等“刚需”下,私有化成为政企市场的准入门槛,然而私有化下,行业模型局限性尚未可知,加之信创化等因素,厂商仍需取长补短,为政企客户提供全方位的解决方案。

e194c5a2-d9ee-11ed-a6e8-00163e0b5ff3.jpg

政企领域,似乎正在成为AI落地的又一标的。

几个最新的动态是:新华三针对政企客户发布私域大模型“百业灵犀”LinSeer、中国电科发布专为党政企行业用户服务的AIGC大模型“小可”、百应科技发布政务行业专有大模型“万机”……百度智能云、阿里云、三六零、科大讯飞、商汤等也都在针对政企客户,发布了相关产品和解决方案。

这一趋势同样发生在海外。有消息称微软正在使用其 Azure 云服务把 OpenAI 的强大的语言生成模型引入政府机构,这些模型包括 OpenAI 最新、最先进的大型语言模型(LLM)GPT-4以及 GPT-3。

然而,从国内发布政企大模型的各大厂商的动作来看,并未有较多的落地案例。背后的原因有很多,一是产品发布时间短,无法及时得到较大反馈;二是由大模型引起的AI热潮还处于爆发期,政企对于合作厂商的选择还需考量。

除了这些因素之外,几个关键的问题是,这些厂商针对政企客户发布的AI产品,真的是政企所需要的吗?再或者,于政企而言,其需要什么样的AI产品与服务?

一、政企市场,“观望”AI

“我们接触的客户都在探索这方面的内容,政企会有这方面的诉求。”某业内人士告诉产业家,“但对于AI大模型在政企领域的应用,大家都处于观望+探索的阶段。

在国内,政企普遍体量大、业务复杂、定制化要求高,有着沉重的IT建设包袱,各部门、业务之间难以协同,数据壁垒也难以打破,这使得政企的数字化转型困难重重。

而大模型可以把人与人、人与机器之间的交互过程数据完整的沉淀下来,让它自主学习进步,持续演进。杜绝了过去的烟囱式建设,降本增效的同时还能推动政企数字化进程。

这种技术应用的趋势,推动着诸多厂商开始将自身的TOG产品与大模型结合。

不过客观来看,当下虽然深耕AI产业链的玩家众多,但在政企领域,出于对算力、行业专业度、数据安全、国产化等各方因素的考量,厂商难以给出合适的AI解决方案。

AI大模型作为数字化的新基建,如何赋能行业仍需不断探索、实践。很多企业也在不断进行新的尝试。

周鸿祎曾在微博上发文表示,“大型企业或者政府要私有化大模型。即在加入公有GPT知识和能力的基础上,再训练一个私有的GPT,只给企业自己或客户使用。”

与周鸿祎有相同见解的,还有新华三安全产品研发总监韩小平。

“政企大模型一方面数据不能出域;一方面需要结合其业务场景数据进行喂养训练,生成实际的业务场景App。”

他认为,政企大模型技术本身其实不是唯一考量的因素,更重要的是对用户业务的理解。政企AI服务,行业Know-how仍是关键,没有政企业务服务经验的厂商,难以结合大模型设计出个性化的解决方案。

两人都将政企AI大模型的落地方式瞄准了私有化。

二、私有化,会是一个好的选择吗?

“全面禁止使用ChatGPT”这句话时不时就会喜提科技榜热搜,最近一次的主角是三星。

具体源于三星允许半导体部门的工程师使用ChatGPT参与修复源代码问题。 但在过程当中,员工们输入了机密数据,包括新程序的源代码本体、与硬件相关的内部会议记录等数据。

起初三星全面禁止使用ChatGPT,自3月11日开始才部分开放给DS部门使用,却没想到在短短时间内就传出机密外泄。

诸如此类机密数据泄漏事件,层出不穷。

在海外市场,苹果、三星、摩根大通、花旗银行等知名企业都曾明确表示,禁止或限制员工在工作场合使用ChatGPT等大模型产品。

事实上,大模型的底层逻辑是将行业数据标注出来进行深度学习,训练出专注于某一行业的垂直模型。这也意味着,企业的数据要集成到通用大模型的数据池中。

然而,政企的数据大多涉及商业机密、个人隐私等问题,对数据安全要求甚高。

所以,数据不出域,成为关键。而私有大模型无疑是政企的必选项。

不过,私有化意味着需要政企客户自己收集数据进行训练。一般情况下,AI决策的及时性和准确性,取决于数据质量、数量以及算力。这意味着输入预训练模型的数据维度、数量越多,质量越高,才能真正发挥大模型真正价值。

一个有争议的点是,专业厂商打造的私有模型,比起通用大模型的能力,能否满足政企需求。

3月30日,彭博社创始人布隆伯格发布了一片论文,即BloombergGPT: A Large Language Model for Finance。

在论文中,介绍了其以模3630亿token的金融领域数据集以及3450亿token的通用数据集训练出来的金融大语言模型。并进行金融领域评估与通用领域评估。

结果显示,在金融领域任务上,该模型综合表现最好;在通用任务上,该模型的综合得分同样优于相同参数量级的其他模型,并且在某些任务上的得分要高于参数量更大的模型。

这意味着,基于专业领域语料训练的大模型,在领域内的理解要超过通用大模型。

一个启示是,在其他特定领域,也可以开发专用的大语言模型,并且效果可能比通用大模型更好。

然而,这个评估实验的结论仍无法代表所有行业,有些问题仍需要被正视,例如中外金融数据维度、质量其实有着较大的差距,该金融模型作为第一个行业模型,更换不同维度、质量的数据,能否保持其结论的准确性,还未得知。

另外,除政务系统、城市大脑以及金融等数据敏感的政企场景,其他终端场景,通用大模型的语料数据仍有很大优势。

所以,对于政企而言,其需要的AI服务是能在保证数据安全的同时,还可以能集成通用大模型作为能力补充。

三、政企大模型,亦需“群战”

术业有专攻,大模型能力同样如此。

在政务AI大模型应用方面,周鸿祎曾直言,预测未来中国不会只有一个大模型,每个城市、每个政府部门都会有自己的专有大模型。

信创化的浪潮下,全技术栈的国产化已经成为服务政企客户的准入门槛。所以对于政企而言,信创生态能力成为其选择厂商的重要标准。

目前来看,能实现全技术栈国产化的AI大模型厂商屈指可数。能否吸引更多信创伙伴成为关键,取长补短,或将实现双赢。

此外,在国产化的基础上,不同的场景应用,也需要与不同的厂商合作,例如互联网云厂商在终端软件应用的优势;运营商的网络优势;华为在芯片、系统上的优势。

除了基于客户需求的合作,还有来自算力等资源稀缺所带来的压力。

AI新一轮热潮袭来,服务器需要配备大量GPU/NPU/FPGA/ASIC等芯片以支持高算力,但就目前来看,算力不仅价格高昂且资源紧张。

目前,支撑包括ChatGPT大模型在内的95%用于机器学习的芯片都是英伟达的A100(或者国内使用的替代产品A800),该芯片的单价超过1万美元。此外,英伟达最新一代的H100芯片的性能也远超A100,但价格也更高,约合25万元人民币。

而在取长补短的AI大模型产业生态下,将大幅度杜绝模型的重复搭建、实现数据的重复利用,大大节约算力资源利用率。同时还可以减少政企客户的AI部署成本。

所以,对于布局政企大模型的厂商而言,在私有化的前提下,通过开源、API接口等形式,以通用大模型和客户或自身集成的数据,帮助客户调教模型,形成定制化的AI产品,或将推动政企大模型快速落地。

一些厂商也正在验证了这种路径的可行性。

例如中国电科面向党政企,提供“通用智能模型大循环 + 行业智能模型小循环”双循环、“模型训练 + 测试评估 + 场景精调 + 可信增强”四阶段的行业应用新范式。

再比如,新华三面向政企发布的百业灵犀LinSeer既支持“私域大模型+新华三ICT基础架构”的模式保障数据安全,也支持“客户自选大模型+新华三ICT基础架构”的模式满足多种需求。

政企AI服务的走向逐渐清晰,即政企或许更需要“自助餐”式的服务模式。客户可以选择适合自身需求的芯片、模型技术方、数据集成方、软件厂商等。

经历过多次寒冬的AI,能否抓住这次时代的机遇,仍需时间来验证。

作者:斗斗;编辑:皮爷 

来源公众号:产业家(ID:chanyejiawang),专注深度产业互联网内容

本文由人人都是产品经理合作媒体 @产业家 授权发布,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK