5
微软报告称 GPT-4 易受“越狱”提示词影响，生成不良内容
source link: https://www.8btc.com/article/6835774
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
2023-10-18 03:35
微软报告称 GPT-4 易受“越狱”提示词影响，生成不良内容
据 IT 之家 10 月 18 日消息，微软旗下研究团队近日发表论文，详细研究了大型语言模型 (LLM) 的“可信度”和潜在毒性，特别关注 OpenAI 的 GPT-4 及其前代 GPT-3.5。研究团队表示，GPT-4 虽然在标准基准测试中比 GPT-3.5 更加可靠，但容易受到“越狱”提示（绕过模型安全措施）影响。GPT-4 可能会根据这些“越狱”提示，生成有害内容。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK