OPPO StarFire端云机器学习平台全新升级，异构计算突破算力瓶颈-品玩

OPPO StarFire端云机器学习平台全新升级，异构计算突破算力瓶颈-品玩业界动态

OPPO StarFire端云机器学习平台全新升级，异构计算突破算力瓶颈

今年的OPPO 2022未来科技大会(OPPO INNO DAY 2022)上,OPPO正式发布了让终端更智能的“安第斯智能云”,并分享了其在端云数据存储、端云机器学习、端云实时渲染等领域的关键能力,为用户带来重构端云存储、增强智能服务、探索虚实融合的三大体验革新。

在增强智能服务方面,OPPO 端云机器学习平台StarFire采用端云协同机器学习新范式,融合云侧大规模模型实时训练和端侧动态感知用户的双重优势,促进AI能力进一步向自适应AI、生成式AI演进。

近日,StarFire完成了全新升级,通过落地支持多种异构芯片的训推一体平台,打通了芯云一体的AI训练、优化、推理全流程,在全面提升算力与性能的同时降低成本和功耗,为OPPO用户提供性能强大的全场景服务体验。

【突破行业瓶颈,端云机器学习能力升级】

在以数据为中心的今天,传统的单一计算架构已无法满足当下日益高涨的算力需求。特别是在人工智能领域, AI意味着对算力的超高要求,异构计算大有可为,现已成为加速AI创新的新一代计算架构。

为突破行业当前云上机器学习平台的“三高(延时高、成本高、隐私安全风险高)”瓶颈,OPPO异构计算全新升级。经过一年多的努力,StarFire完成了支持多种异构芯片的训推一体平台的落地,打通了芯云一体的AI训练、优化、推理全流程,在充分发挥算力与性能的同时,有效降低功耗与成本。

借助StarFire的端云链路,任意一台终端都可以随时加入训练过程,StarFire能够感知终端设备的芯片特性,并面向目标业务场景优化模型,释放OPPO强大的云端算力,极大补齐终端设备资源和算力资源的短板,并快速适配高通、MTK和OPPO自研的马里亚纳等异构芯片的推理需求。

【兼容异构芯片,多场景推荐服务升级】

为了进一步打造更为自主可控的异构计算平台,StarFire对AI芯片的应用进行了探索,当前StarFire推理平台已同时支持CPU、GPU和国产芯片进行推理,并率先在信息流主视频场景全量上线,取得极好的效果。具体地说,StarFire最大吞吐量提升了101%,中负载下耗时下降50%;另一方面,推理的综合成本也下降50%,并在稳定运行的几个月中实现了0故障。

此次在信息流主视频场景全量上线的成果,充分验证了StarFire在支持多种异构芯片的可能性,为后续引入更多的AI芯片打下了夯实的基础。值得一提的是,在异构计算平台的构建过程中,StarFire针对面向推荐场景的算子进行了相关的优化,除却当前信息流内容主视频场景的应用,后续还将复用到其他的推荐场景,进一步提升异构计算的通用性和性能效果。

【加速业务应用创新,提升智能服务体验】

一直以来,OPPO均致力于为用户提供便捷高效的智能服务体验。StarFire为用户带来了更低延时的实时交互、支持千亿级参数的AI模型以及更安全的用户隐私保护,通过充分调动云侧计算与端侧感知,创造更强大的智能服务体验,全力推动OPPO业务应用创新与用户体验提升。

以小布助手主动建议为例,StarFire可以基于用户个性化的行为、GPS、通信等数据进行隐私计算,通过场景服务聚合卡片,为用户提供一站式、轻松便捷的聚合服务体验。StarFire作为OPPO增强智能服务的技术底座,推动小布助手从最初的语音助手发展为跨终端、多模态的智能助手,从被动的服务向主动建议、辅助决策进化。

StarFire的能力还不止于此。通过端侧实时感知的数据,云端不断反复进行模型训练,可以让AI快速学习、主动进化。根据Gartner公布的技术趋势预测,自适应AI、生成式AI等拥有主动学习、自进化能力的人工智能将为我们带来意外之喜。

在OPPO 2022未来科技大会上,OPPO全新推出了小布作画与小布家庭机器人。作为AIGC中的首发能力,小布作画一方面可以让用户通过文字描述、上传图片等形式生成想要的作品,另一方面小布也作为一个创作者,将绘画作品赋能到更多的业务场景中。小布家庭机器人则是小布技术进化的集大成者,同时也是StarFire在AI计算能力的集中展示和未来的关键技术突围点。

随着用户需求和业务场景的持续发展,OPPO将着力推动StarFire在异构计算平台的不断创新,引入更多更先进的AI芯片和技术,在以“ALL FOR ONE,以用户为中心”的战略目标指引下前行,带来全新智能服务体验。