6
OpenAI 超级对齐团队发布新研究成果，可用低等级 AI 模型指导更复杂的模型发展
source link: https://www.aixinzhijie.com/article/6841158
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
2023-12-15 05:23
OpenAI 超级对齐团队发布新研究成果，可用低等级 AI 模型指导更复杂的模型发展
据 TechCrunch 报道，12 月 15 日，OpenAI 超级对齐（Superalignment）团队发布论文，展示了其关于超级智能对齐的新研究成果。目前，该团队正试图建立适用于未来强大人工智能系统的治理和控制框架。该团队目前确定的方法是，使用一个较弱、不太复杂的 AI 模型（例如 GPT-2）来指导更先进、更复杂的模型模型 (GPT-4) 朝理想的方向发展，远离不良的方向。
此外，OpenAI 启动了一项 1000 万美元的资助计划，以支持超级智能对齐的技术研究，其中部分资金将保留给学术实验室、非营利组织、个人研究人员和研究生。OpenAI 还计划在 2025 年初举办一次关于超对齐的学术会议，届时将分享和推广超对齐奖决赛入围者的工作。
OpenAI 于今年 7 月成立了 Superalignment 团队，由 OpenAI 联合创始人兼首席科学家 Ilya Sutskever 领导，旨在开发引导、规范和管理“超智能”AI 系统的方法。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK