3

AI大模型版“速度与激情”:资金、数据和人才的比拼已打响

 1 year ago
source link: http://tech.caijing.com.cn/20230412/4930553.shtml
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

AI大模型版“速度与激情”:资金、数据和人才的比拼已打响

日前,各类公司布局大语言模型的消息接踵而至,在竞争日益激烈的当下,该领域比拼的维度和指标也日益清晰:谁家在资金、数据和专业人才储备上优势明显?谁家能更快更好地推出AI大语言模型?

4月10日,搜狗公司前CEO王小川发布公开信,正式宣布创建中国版OpenAI公司“百川智能”; AI公司商汤科技公布“日日新SenseNova”大模型体系;以游戏起家的昆仑万维宣布,中国第一个真正实现智能涌现的国产大语言模型“天工”3.5发布在即。

4月11日,阿里云正式宣布推出大语言模型“通义千问”, 未来阿里所有产品将接入通义千问,并开放通义千问帮助企业打造专属大模型。

从3月OpenAI发布ChatGPT-3.5以来,国内企业对语言大模型的关注度日益走高,互联网公司、人工智能公司、智能硬件公司等在该领域的布局也紧锣密鼓般轮番上演,据不完全统计,国内已有接近20家企业摩拳擦掌,准备在AI大模型“角逐场”上展示实力。

清华大学计算机系教授陈文光告诉财经网科技,对于互联网大厂来说,大家的共识是ChatGPT所代表的自然语言交互、自动内容生成是一个非常重要的颠覆性技术,也是互联网未来非常重要的一个入口,所以大家是一定会对此投入,而并非只为噱头。

当然,他还表示,从另一方面来说,有些公司从维护自身形象、体现技术先进性的角度出发,可能也会适当做一些宣传,“我觉得大部分公司应该都还是一边说一边做的”。

《ChatGPT:读懂人工智能新纪元》一书作者、前沿科技领域作家陈根在近期接受媒体采访时则指出,大模型的技术体系不难,甚至是公开的,有人工智能技术团队的企业都可以快速搭出来,但能不能用却是另一回事。

资金、数据、人才都是挑战

对于新产品何时发布、公司团队组成以及资金投入等问题,王小川在4月10日进行了公开回应。

关于公司团队,官方信息显示,公司已得到清华相关院系及多位院士和教授的支持,并吸引清华人才加入。王小川称,“百川智能以前搜狗团队为基础,快速融合来自知名科技公司的核心团队。当然,我还需要吸引更多的人才,包括国外顶尖人才、国内的领军人物、优秀的管理人等等。”其还预计,在4月底公司将打造一只50人规模的AI团队。

在资金层面,百川智能表示,早前已获得5000万美元启动资金,来自王小川与其业内好友的个人支持,面向机构的融资会再近期启动。据澎湃新闻,王小川透露,目前资金足够训练出一个好的千亿模型,“至少到今年年底是够用的。”

值得留意的是,除了王小川,无论是个人出资5000万美元,拿出75%的股份邀请顶级研发人才的美团联合创始人王慧文,还是亲自筹组Project Al 2.0,发朋友圈宣布资金、算力和期权都准备好的创新工场董事长兼CEO李开复,他们都在言行间强调了入场AI语言大模型的资金,以及相关专业人才的重要性。

反向推理或可知,创业公司们迫切需要的,也可能成为他们的潜在挑战。

主要包括大语言模型基础设施、训练和研发人才投入的成本可能是其会遇到的具体挑战之一。

陈文光表示,“ChatGPT-4的基础设施花费大概在10亿人民币的量级,所以即使融了几千万美元,但实际上真正用起来其实还是不够的。一个公司真的要在语言大模型上取得成功,大概需要50亿到100亿人民币的投入可能才有机会,因为ChatGPT-4已经是这个水平。”

在商汤科技董事长兼CEO徐立宣布“日日新SenseNova”大模型体系的活动现场,有一组数据显示,商汤的AI大装置上共有27000块的GPU芯片卡,可以输出5.0 exaFLOPS的总算力,是亚洲目前最大的智能计算平台之一。

《经济观察报》报道称,陈根认为,商汤目前阶段有两大优势,一是它没有被制裁前,在算力层面比较领先,但“这种领先只能是相较同样被制裁环境下的大厂有领先性,不代表明天和后天仍占优势。”

全国政协委员、中国科学院计算技术研究所研究员张云泉此前告诉财经网科技,目前语言大模型的训练主要使用英伟达的芯片A100,但受制于贸易限制,中国企业只能使用原有的A100芯片存货,或降低标准选用级别较低的芯片。但是相较于训练模型的基本芯片量投入,各家企业芯片存量明显不足;另外,即使使用低版本的英伟达芯片A800作为替代,也要面临训练速度慢、训练能力较差,以及成本较高的问题。

陈根还提到,从现实来看,商汤依然面临训练数据、参数优化、硬件算力等方面的硬伤,这并非孤例,当下各大厂开发的大模型,都仍处于研发、训练阶段,“不日日新、不日日抓紧优化、调参、训练,就没办法实现公测,也没办法投入使用。”

陈文光也指出,企业在做出好的语言大模型成果的过程中存在一定不确定性,这是因为每个公司都会有自身的瓶颈,可能是数据的瓶颈,即没这么多的数据可供训练,也可能是人才的瓶颈,即公司不一定能招来能把这件事干好,且足够多的各个方面的人才。

而这是布局AI大模型企业面临的第二和第三个挑战。

据了解,语言大模型呈现内容的背后主要会涉及两个“量”,分别是参数量和预训练的数据量,前者相当于人类的脑容量,或者说是天赋,后者输入的数据量以及优质数据量,决定了语言大模型输出内容的质量和丰富度。

猎云网报道称,有AIGC领域投资人表示,“国内公域流量上的中文语料非常差,优质的中文语料又集中在各个不同大厂的私域场景里,抖音的视频数据、阿里的图文数据、百度的文本数据,还有知乎跟小红书等,这些数据都不会共享出来给外部去做通用的大模型训练。”

另外,在人才招聘方面,脉脉高聘人才智库数据显示,2023年AIGC人才招聘需求激增,1-2月份发布的AIGC岗位数量同比增长35%。在热招岗位中,图像识别、算法研究员、深度学习等岗位的年薪均已达百万元。

在抢人大战下,各家能否通过薪酬、股权激励等方式吸引到自己所需的优秀人才,并非易事。

群雄争霸,还存在竞争者风险

公开资料显示,ChatGPT 引发热潮前,国内已有三家互联网公司发布过大模型:2019 年,百度于推出 ERNIE 1.0,即目前的文心大模型;2021年,阿里连续发布语言大模型 Plug(后更名为 AliceMind)和多模态大模型 M6,后这两个大模型合并为阿里通义大模型;2022 年,腾讯发布混元大模型,腾讯微信团队发布大模型 WeML。

有意思的是,无论是已公测还是未公测语言大模型的企业,在提及公司语言大模型与ChatGPT存在的差距以及何时能追上ChatGPT时,领导者们都较为乐观。

百度创始人、董事长兼首席执行官李彦宏在极客公园的直播中表示,文心一言确实不如现在最好的 ChatGPT 版本,但差距也不是很大,“所谓不是很大,可能就是一两个月的差别”。

“追上ChatGPT-3.5水平,我觉得今年内可能就能够实现,但对于ChatGPT-4或者ChatGPT-5,我认为可能需要3年左右的时间,应该不会低于两年。”王小川透露,6月份百川智能可能会公布一个对标ChatGPT-3.5的更大规模模型。

商汤科技联合创始人、大装置事业群副总裁陈宇恒则表示,“对于未来一到两年,我们追赶甚至超过GPT-4,我是比较有信心的。”

在陈根看来,入局大模型,比拼的不仅仅是模型能力,还有模型的调参优化、数据训练、算力支持等多维度能力的考验。从目前来看,他觉得模型愿景是否明朗以及技术能否实现的评价标准,“就是敢不敢公测”。

如果将“公测”作为一条重要的指标线,陈文光告诉财经网科技,在该领域已经有所布局的企业,可能面临的第四个挑战,就是时间或者竞争者的风险。也就是说,在激烈竞争的市场环境下,“如何把这个东西做出来,甚至更早更快地做出来比别人更好的东西,这一点不是很容易。”

从目前企业在语言大模型布局的最新进度来看,有的企业在有规划地推进,有的则收到了深交所关注函。

4月11日,2023阿里云峰会在北京举行,阿里巴巴集团董事会主席兼CEO、阿里云智能集团CEO张勇在会上表示,阿里巴巴所有产品未来将接入“通义千问”大模型,包括天猫、钉钉、高德地图、淘宝、优酷、盒马等,将进行全面改造。

同日晚间,昆仑万维收到深交所关注函,要求结合行业政策风险、该项目研发进度、产品落地可行性、预计上线时间、市场需求情况、对公司财务影响等情况,说明“天工”3.5可能面临的风险包括但不限于商业化、运行、技术、行业等方面,并向投资者予以充分揭示。

据了解,4月10日,昆仑万维在公告中宣布将在本月17日发布对标ChatGPT的双千亿级大语言模型的“天工”3.5,但《第一财经》在报道中指出,从回复公告的时间线来看,昆仑万维开发“天工”3.5的时间进程,仅耗时不足5个月,且开发合作方的资质不明朗。

后者资质不明朗是指,与昆仑万维联合开发该模型的北京奇点智源科技有限公司,实缴资本存疑、参保人数为0、主要人员仅3人,却已经获得了昆仑万维3亿元的设备采购供应,同时奇点智源的主营业务、成立年限与昆仑万维对其描述不匹配。

从互联网大厂和创业公司两个维度来看,陈文光认为,大部分大厂的模型未来主要还是给自有业务使用,并使用该技术产生竞争优势,但前提是互联网大厂觉得语言大模型可以为其业务赋能并助力其在行业内领先;创业公司则更多可能是提供一个大模型给社会上有需求的公司使用。

百舸争流,在热闹的AI语言大模型的竞争中,是踏实做事业争取更大的商业机会,还只是借AI概念股大涨分一杯羹,这幅“速度与激情”的现实画像会日益清晰起来。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK