2

苹果拿下第33家AI公司,自研300亿参数大模型首次亮相

 6 months ago
source link: https://www.36kr.com/p/2690737120554627
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

苹果拿下第33家AI公司,自研300亿参数大模型首次亮相

智东西·2024-03-15 11:46
生成式AI,苹果正全力以赴。
interlace,1

智东西3月15日消息,根据彭博社报道,苹果公司在今年年初收购了一家加拿大AI创企DarwinAI,这家创企的数十名员工已经加入了苹果的AI部门。这也是苹果已知收购的第33家AI公司。 

interlace,1

▲2022年12月,DarwinAI团队成员合影,来源:Communitech

DarwinAI开发的AI技术主要用于工业制造过程中的印刷电路板(PCB)视觉检测领域,他们的核心技术优势主要是把AI系统做的更小型化,同时兼顾较高的处理速度。 

这其实刚好正中苹果下怀,彭博社报道认为,苹果一直致力于做的就是在设备上本地运行AI,而不是放在云端,因此DarwinAI的技术优势对苹果来说可能很有帮助。 

作为收购的一部分,DarwinAI的联合创始人兼首席科学家、加拿大滑铁卢大学首席AI研究员Alexander Wong也加入了苹果,并在苹果的AI部门中担任着一个领导岗位。 

interlace,1

▲Alexander Wong,来源:滑铁卢大学

昨日,苹果公司研发团队成员还发布了一篇论文,首次公布了苹果多模态大模型系列MM1,该系列模型支持增强的上下文学习和多图像推理,在一些多模态基准测试中有较好表现,最高参数量为300亿。 

interlace,1

▲相关论文

论文地址: https://arxiv.org/pdf/2403.09611.pdf 

可以看到,苹果在AI领域的动作,正越来越多。 

01.五年融资超1亿人民币,收购AI创企难救苹果股价

DarwinAI成立于2017年,截至2022年12月,其员工人数约为30人,计划在2023年扩张到45-60人。 

市研机构CB Insight曾将DarwinAI列入2021年和2020年的AI 100强排行榜中。 

根据加拿大创业社区Communitech数据,截至2022年年底,DarwinAI的融资额已经超过了1550万美元(约合人民币1.1亿元)。DarwinAI的客户中有洛克希德·马丁公司和英特尔。 

interlace,1

▲2020年3月团队成员合影,来源:英特尔

至于收购相关细节,彭博社向苹果询问了有关交易的问题,苹果公司在回答中提到,苹果时不时收购规模较小的科技公司是很正常的。但苹果并没有具体回答相关收购计划。 

收购消息传出后,苹果股价曾短暂上涨超1%,但目前苹果股价年内跌幅已经达到了10%左右。 

02.收购AI企业数量超过谷歌微软,苹果的生成式AI大招何时来?

最近,业内对苹果AI相关进展的关注度颇高,这一定程度上也是因为苹果在这波基于大模型的生成式AI热潮中几乎一直保持“沉默”,三星以及中国智能手机厂商们早已将大模型以及生成式AI相关技术应用在了智能手机产品中。 

在AI热潮中,作为底层芯片算力巨头的英伟达,其股价持续飞涨,如今市值已经达到了2.2万亿美元,相比之下苹果股价却在美股上涨大潮中逆势下跌,有不少业内人士预计,英伟达市值超过苹果只是时间问题。 

其实在过去的十几年里,苹果收购的AI公司数量超过了大多数竞争对手,比如谷歌和微软。 

据市场调研机构Stocklytics最新报告,到2023年,苹果总共收购了32家AI公司,是科技公司中收购数量最多的,谷歌母公司Alphabet收购了21家,Meta收购了18家,微软收购了17家。 

interlace,1

▲到2023年,主要科技巨头收购AI公司数量统计,来源:Stocklytics

统计数据显示,自2017年以来,苹果在AI技术的股权和附加投资方面远远领先于竞争对手,约为21%,而微软则占12%,Alphabet占8%。 

虽然收购了不少AI公司,但苹果在生成式AI领域的声量显然远低于微软、OpenAI、谷歌、Meta等公司。 

当然,苹果也在抓紧跟上大部队。 

据彭博社报道,苹果正在为iOS 18添加各类基于生成式AI的新功能,苹果公司CEO蒂姆·库克(Tim Cook)也在今年的股东大会上明确提到,苹果今年将在AI领域“开创新局面(break new ground)”。苹果大概率将在今年6月的WWDC24上公布相关消息。 

interlace,1

具体来看,苹果会将生成式AI技术整合到业务当中,比如在软件中增加自动创建PPT、自动生成文本的功能,此外苹果也在开发Xcode编程软件的新版本,新版可能会加入更多的AI功能帮助开发人员编写代码。 

在人员方面,苹果此前也将造车团队近2000人都转移至了AI部门。 

就在最近,苹果公司研发团队成员发布了一篇名为《MM1: Methods, Analysis & Insights from Multimodal LLM Pre-training》的论文,并正式亮出了自己的300亿参数多模态大模型(MLLMs)。 

研究中,研发团队聚焦于如何构建高性能多模态大模型,重点研究了各种架构组件和数据选择的重要性,通过对图像编码器、视觉语言连接器以及各种预训练数据选择进行仔细而全面的剥离,团队总结出了一些关键的设计经验。 

研发团队构建了一个多模态模型系列MM1,其中模型最高参数量为300亿,据称这些模型在预训练指标中是“最先进的”,并且在一系列已建立的多模态基准测试中,经过监督微调后实现了“有竞争力的”性能。 

MM1可以支持增强的上下文学习和多图像推理,使得少数样本的思维链提示成为可能。 

03.结语:从收购创企到大模型发布,苹果生成式AI提速

收购AI创企属于苹果的“常规操作”,但此次事件发生的节点,恰好是苹果“掉队”AIGC颇受关注之时,也是苹果股价连连下跌的时点。 

根据目前各路外媒爆料,苹果在生成式AI领域必然在紧锣密鼓地推进技术落地,从软件操作系统的新功能升级,到自研大模型陆续浮出水面。6月的开发者大会将成为一个关键节点,苹果是否会憋个大招,后来居上,我们拭目以待。 

本文来自微信公众号“智东西”(ID:zhidxcom),作者:云鹏,36氪经授权发布。

该文观点仅代表作者本人,36氪平台仅提供信息存储空间服务。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK