7
知情人士：美中专家去年曾就AI安全两次举行秘密会议
source link: https://redian.news/news/80937
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
知情人士：美中专家去年曾就AI安全两次举行秘密会议
1天前
多位知情人士透露，美国人工智能（AI）公司OpenAI、Anthropic和Cohere以及AI组织的科学家、政策专家与中国AI专家曾于去年7月和10月两次在日内瓦举行秘密会议。在美中两国就AI和量子计算等尖端技术领域展开竞争之际，这些此前未被报道的秘密会谈是美中合作的罕见迹象。
根据英文媒体报道，清华大学和其他中国政府支持机构的代表出席了会议。
与会者表示，会谈使双方能够讨论新兴技术带来的风险，并鼓励对AI安全研究的投资。他们补充道，最终目标是找到一条科学的道路，安全地开发更复杂的AI技术。
一位出席会谈的人士表示：“如果这些参与者未达成一致，我们就无法围绕AI的安全和一致性制定国际标准。如果美中达成一致，就更容易把其他国家也拉过来。”
考虑到AI给人类带来的潜在生存风险，AI安全话题已成为两国技术开发者共同关心的问题。
一位不愿透露姓名的与会谈判代表表示，日内瓦会议是在白宫以及英国和中国政府官员知情的情况下安排的。
会谈由政治顾问公司Shaikh Group召集，这是一个私人调解公司，旨在促进冲突地区（尤其是中东地区）关键行动者之间的对话。
“我们看到了将美国和中国在AI领域的主要参与者聚集在一起的机会。我们的主要目的是强调在全球范围内广泛部署AI模型所带来的脆弱性、风险和机遇。”该集团首席执行官萨尔曼•谢赫（Salman Shaikh）表示。
参与会议的人士透露，字节跳动、腾讯和百度等中国AI公司未参加会议。虽然谷歌DeepMind被告知了会谈的细节，但它也未参加。
在会谈中，双方的AI专家讨论了参与技术合作的领域，以及更具体的政策建议，这些建议为2023年7月联合国安理会AI会议和去年11月英国AI峰会的讨论提供了参考。
据悉，越来越多的人呼吁主要大国之间进行合作，以应对AI的崛起。
去年11月，从事AI研究的中国科学家加入了西方学者的行列，呼吁加强对这项技术的控制，他们签署了一份声明，警告称，先进的AI技术将在未来几十年对“人类的生存构成威胁”。
这群与会者呼吁建立一个国际监管机构，对先进的AI系统进行强制性注册和审计，纳入即时“关闭”程序，并要求开发人员将30%的研究预算用于AI安全。（完）
戳这里提交新闻线索和高质量文章给我们。
来源: uschinapress
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK