3

“AI教父”辛顿预警AI技术的潜在风险

 1 year ago
source link: https://redian.news/news/69841
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

“AI教父”辛顿预警AI技术的潜在风险

1 天前

在ChatGPT时代，不少知名人士都对人工智能（AI）发出预警，比如实业家埃隆·马斯克（Elon Musk）、左翼知识分子诺姆·乔姆斯基（Noam Chomsky）和99岁的退休政治家亨利·基辛格（Henry Kissinger）等。
0b5fd35c-c966-4a54-b485-0042184337be.jpg

Powered By
Video Player is loading.
Loaded: 0.00%

图为75岁的“AI教父”杰弗里·辛顿。（图片来源：美联社）
美联社报道，但正是AI研究界内部人士的担忧引起了人们的特别关注。开拓性的研究人员、所谓的“AI教父”、75岁的杰弗里·辛顿（Geoffrey Hinton）辞去了在谷歌的职务，这样，他就可以更自由地谈论AI技术的潜在风险。
在辛顿长达数十年的职业生涯中，他在深度学习（deep learning）和神经网络（neural networks）方面的开创性研究为我们今天看到的AI技术奠定了基础。
辛顿表示，AI聊天机器人的潜在风险“相当可怕”。“据我所知，他们现在并不比我们聪明。但我认为，他们可能很快就会比我们聪明。”
辛顿还指出，“不良行为者”可能会利用AI做对社会有害的事情，比如操纵选举或煽动暴力。
自从宣布离职以来，辛顿一直坚称谷歌在AI方面“表现得非常负责任”。
辛顿是2019年获得图灵奖的三位AI先驱之一，这一荣誉被称为科技行业版的诺贝尔奖。另两位获奖者约书亚·本吉奥（Yoshua Bengio）和雅恩·乐昆（Yann LeCun）也对AI的未来表示担忧。
关于AI争论的核心点在于主要风险是发生在未来还是现在。白宫科技政策办公室负责人阿隆德拉·纳尔逊（Alondra Nelson）表示：“无论好坏，聊天机器人时刻所做的一切都使AI成为全国性和国际性的话题。”
纳尔逊在上个月的一次采访中表示：“AI不再是抽象的，我认为，我们有机会就我们想要一个民主的未来和一个非剥削性的未来进行新的对话。”
长期以来，许多AI研究人员一直对AI系统中的种族、性别和其他形式的偏见表示担忧，包括基于文本的大型语言模型，这些模型建立在大量人类写作的基础上，可能会放大社会中存在的歧视。
蒙特利尔大学教授本吉奥在3月底签署了一份请愿书，唿吁科技公司同意暂停开发强大的AI系统6个月，而脸书（Facebook）母公司Meta的顶级AI科学家乐昆则采取了更乐观的做法。（完）


report

Recommend

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK