行业顶尖专家警告：AI或带来人类灭绝风险
source link: https://redian.news/news/71308
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
行业顶尖专家警告：AI或带来人类灭绝风险
数十位人工智能行业领袖、学者以及一些名人周二（30日）唿吁降低人工智能可能会导致人类灭绝的风险。他们在一份简短的声明中表示，人工智能带来的灭绝威胁应该成为全球优先事项。
根据英文媒体报道，非营利组织人工智能安全中心（Center for AI Safety）发表的这份声明说：“降低人工智能带来的灭绝风险，应该与疫情和核战争等其他社会问题摆在同一高度，作为全球优先事项来看待。”
签署该声明的行业领导者包括OpenAI的CEO萨姆·阿尔特曼（Sam Altman）、被称为人工智能“教父”的杰弗里·辛顿（Geoffrey Hinton）、微软首席技术官凯文·斯科特（Kevin Scott）、互联网安全和密码学先驱布鲁斯·施奈尔（Bruce Schneier）等。
OpenAI的CEO阿尔特曼是声明签署人之一。（图片来源：美联社）
该声明强调了对不受控制的人工智能带来的终极危险的广泛担忧。人工智能专家说，现在社会距离发展出科幻小说里那种通用的人工智能还有很长的路要走，现在的尖端聊天机器人主要是根据训练数据来复制，而不是主动思考。
尽管如此，人工智能行业得到的大力宣传以及投资让人们做好了准备，在任何重大事故发生之前做好监管。
这一声明发表之前，OpenAI的ChatGPT取得了巨大的成功，让科技行业开始加强在这方面的竞争。与此同时，越来越多议员、倡导组织和科技业内人士对人工智能聊天机器人传播错误信息和可能取代就业机会的可能性发出警告。
辛顿开创性的工作帮助塑造了今天的人工智能系统。此前他曾说过，在“突然”意识到“这些东西会变得比我们更聪明”后，他决定离开谷歌，“警告”这项技术带来的风险。（完）
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK