8
ChatGPT并非完全靠谱 加拿大研究者指出其存在安全风险
source link: https://www.evolife.cn/tech/303115.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
ChatGPT并非完全靠谱 加拿大研究者指出其存在安全风险
自从ChatGPT发布之后，仿佛一瞬间TA让N多职业人士丢了工作。尤其是软件工程师这类工作，现在变成了只要跟ChatGPT聊一聊就会直接生成软件代码，简单方便。不过近日加拿大研究者表示ChatGPT并不可靠，会存在严重的安全问题，并且不会告知用户代码存在风险。
根据他们的试验方法，通过ChatGPT生成了设计C、C++、Java等语言的21个程序和脚本，之后再进一步论证其安全性。
结果他们在论证过程中，全部21个程序只有5个是安全的，在进一步纠错后也有7个程序代码靠谱。他们认为会出现这样结果的原因主要是ChatGPT在生成代码时没有考虑可能存在的敌对代码执行模型，这就导致程序安全性问题堪忧。
不过，代码生成期间ChatGPT并没有提示用户有安全问题。只有当用户提到存在这个问题时，TA才会强调安全问题可以通过“不输入无效的数据”来避免。
看来，ChatGPT在短时间还是无法替代程序员们的工作，毕竟人类还得及时发现AI的错误并进行纠正。
文章来自：爱活网
分享至:
0
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK