2
OpenAI 安全漏洞曝光：使用不常见语言可轻易绕过 ChatGPT 的限制
source link: https://www.8btc.com/article/6835244
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
2023-10-12 06:43
OpenAI 安全漏洞曝光：使用不常见语言可轻易绕过 ChatGPT 的限制
据 IT 之家 10 月 12 日消息，布朗大学的计算机科学研究人员发现了 OpenAI 的 GPT-4 安全设置中的新漏洞。他们利用一些不太常见的语言，如祖鲁语和盖尔语，即可以绕过 GPT-4 的各种限制。研究人员使用这些语言来写通常受限的提示词（prompt），发现得到回答的成功率为 79%，而仅使用英语的成功率不到 1%。
研究人员承认发布这项研究可能会造成危害，并给网络犯罪分子提供灵感。值得一提的是，在向公众发布之前，该研究团队已经与 OpenAI 分享了他们的发现，以减轻这些风险。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK