MediaTek联合百度发起飞桨和文心大模型硬件生态共创计划
source link: https://www.0-tech.com/archives/60062
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
MediaTek联合百度发起飞桨和文心大模型硬件生态共创计划
8月16日，MediaTek正式宣布与百度联合发起飞桨和文心大模型硬件生态共创计划，双方将共同推进MediaTek硬件平台与飞桨和文心大模型的适配。目前双方正在合作优化文心大模型在终端设备上的执行效果，将实现大模型在终端和云端的协同工作，为用户带来突破性的生成式AI应用体验。
作为推动AI进一步发展的先进技术，与单纯在云端部署生成式AI应用和服务相比，终端侧部署生成式AI在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面具备明显优势。双方的合作将支持基于MediaTek芯片的智能手机、汽车、智能家居、物联网等终端设备上运行文心大模型，赋能终端设备提供更安全、可靠和差异化的使用体验。
MediaTek与百度合作已久，双方合作完成了Paddle Lite 轻量化推理引擎基于MediaTek NeuroPilot 人工智能通用软件平台的适配。
NeuroPilot是MediaTek为开发者提供的基于本地端侧的AI运算解决方案，它为内建CPU、GPU 和 APU（独立AI 处理器）等异构运算单元的MediaTek SoC平台提供完整且强大的软件解决方案。NeuroPilot支持开发者在现有和未来的MediaTek 硬件平台以及包括智能手机、汽车、智能家居、物联网等产品线实现“一次编写，全场景通用”，帮助开发者在MediaTek平台上高效开发和部署基于神经网络模型的AI应用程序。AI开发者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定义的第三方通用AI框架来构建神经网络模型，并接入到NeuroPilot系统，充分发挥MediaTek AI系统的强劲算力，显著提高模型运行在设备上的效率，并降低功耗和内存消耗。
MediaTek无线通信事业部副总经理李彦辑博士表示：“百度飞桨深度学习平台和文心大模型在AI领域处于领先地位，我们双方将聚焦AI大模型在终端侧的部署，为用户提供更安全可靠，更个人化，更低成本的端侧生成式AI解决方案，赋予终端设备更强大的AI能力。MediaTek携手百度飞桨和文心大模型，通过AI端云融合，将为广大开发者和终端用户带来更多令人兴奋的AI创新机遇和产品体验。”
生成式人工智能浪潮下，大模型正成为新一轮科技革命和产业变革的重要驱动力量。MediaTek将持续携手百度飞桨和文心大模型，加速终端侧生成式AI的部署，共同打造软硬一体的人工智能大模型平台，让科技惠及大众，为千行百业赋能。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK