周鸿祎透露360大模型安全解决方案：将推出Agent框架
source link: https://finance.sina.com.cn/china/2023-10-13/doc-imzqykvi7523374.shtml
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
周鸿祎透露360大模型安全解决方案：将推出Agent框架
新浪科技讯 10月13日下午消息，在第38次全国计算机安全学术交流会上，三六零(9.630, -0.24, -2.43%)（下称“360”）公司创始人周鸿祎透露了360大模型安全解决方案细节。他介绍指出，大模型发展已经进入第二阶段，重点是放低身段，赋能产业数字化发展，最大的障碍是如何打造真正安全可用的大模型。
周鸿祎指出，大模型是一把“双刃剑”，将带来前所未有的安全挑战，他将安全风险划分为短期、中期、长期三个阶段。其中，短期风险是当前最迫切要解决的问题，主要围绕大模型自身引发的安全问题，如网络安全、数据安全、生成内容安全。中期风险主要指人为的对大模型恶意应用，如日益猖獗的AI换脸、AI换声诈骗。长期风险则是当更强大的人工智能诞生，对人类生存带来的安全挑战。
周鸿祎表示，基础大模型的安全问题，都会“遗传”给垂直大模型。为此，360躬身入局，在国家级安全能力基础上，打造原生安全大模型“360智脑”。周鸿祎介绍，在“安全、向善、可信、可控”这一安全四原则的基础上，360已经构建体系化的大模型安全解决方案，保证大模型在企业级场景落地。他透露，为了让大模型不作恶，360“向善”解决方案的核心是研发安全垂直“小模型”训练和监控大模型，保证大模型输出结果安全。
在解决大模型“可控”问题上，360将推出Agent框架，把人的能力赋予大模型，一方面让大模型变得更强大，另一方面也能起到对大模型的约束。面对国内大模型安全需求的井喷，周鸿祎表示，360的原生大模型安全解决方案能够平移、复制给有需求的行业合作伙伴和客户，以外挂式“360大模型安全管家”的形式对外赋能，提供网络与数据安全、内容护栏、搜索知识增强、可视化数据监测等能力。（文猛）
责任编辑：刘万里 SF014
VIP课程推荐
APP专享直播
嘉实基金李直：能源之基“油”为重要
创金合信基金李志武：港一港丨反弹行情值得期待？
摩根资产管理：养老FOF投资的海外与本土实践
标普信评李迎、栾小琛、杨建成：金融机构在线研讨会：中资行评级以及息差研究
中金财富陈龙翔：谈股论金-今日收市盘点
广发基金 刘杰、国海证券 周小刚：港股创新药板块投资价值如何看？
华夏基金华龙、万晓微：机器人国产替代创新高，如何把握节后机会？
海通证券于佳玉、张无记&郑宇靖：令人心动的套利策略
连麦光大期货：PTA、橡胶、油脂油料
易方达基金姚苏芮、郑力海、史雁南：生物医药板块再度活跃，有何投资机遇?
嘉实基金李直：能源之基“油”为重要
创金合信基金李志武：港一港丨反弹行情值得期待？
摩根资产管理：养老FOF投资的海外与本土实践
标普信评李迎、栾小琛、杨建成：金融机构在线研讨会：中资行评级以及息差研究
中金财富陈龙翔：谈股论金-今日收市盘点
广发基金 刘杰、国海证券 周小刚：港股创新药板块投资价值如何看？
华夏基金华龙、万晓微：机器人国产替代创新高，如何把握节后机会？
海通证券于佳玉、张无记&郑宇靖：令人心动的套利策略
连麦光大期货：PTA、橡胶、油脂油料
易方达基金姚苏芮、郑力海、史雁南：生物医药板块再度活跃，有何投资机遇?
蚂蚁集团：倡导原生安全范式
2023-09-16 03:01:45
央企布局大模型背后
2023-10-12 01:40:21
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK