超350位专家高管联名警告：AI堪比疫情和核战，或灭绝人类
“人工智能或导致人类灭绝”，5月30日，国际AI领域非营利组织“人工智能安全中心”（Center for AI Safety）发布公开信，呼吁国际社会认真对待人工智能带来的一系列重要且紧迫的风险。这封公开信中，只有由22个英文单词组成的简短的一句话：“减轻人工智能带来的人类灭绝风险，应该与大流行病和核战争等其他影响社会的大规模风险一同成为全球性的优先事项。”根据“人工智能安全中心”网站发布信息，截至5月30日，该公开信已获得研究AI工作的企业高管以及AI、气候、传染病等各领域教授和学者，总计超350人的签署。签署人包括三家全球顶尖AI公司的CEO——“ChatGPT之父”、OpenAI创始人兼CEO萨姆·阿尔特曼，谷歌DeepMind公司CEO戴米斯·哈萨比斯，以及美国Anthropic公司的CEO达里奥·阿莫代伊。微软和谷歌公司的多名高管也在名单之中。名单中，杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio）的名字赫然在列。美媒《纽约时报》称，辛顿和本吉奥是被世人誉为三名“AI教父”中的两人，曾因在神经网络方面的开创性工作而获得计算机领域最高奖项——图灵奖。“AI教父”中的第三人、现任脸书母公司Meta的首席AI科学家的伊恩·勒坤（Yann LeCun）尚未签名。此外，签署人名单中也不乏人工智能领域的著名学者和高校教授，其中包括中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤，中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅，以及清华智能产业研究院助理研究员詹仙园。抗议者在伦敦呼吁对人工智能进行监管，图自BBC“这代表了人工智能专家组成的历史性联盟，和哲学家、伦理学家、法律学者、经济学家、物理学家、政治学家、流行病学家、核科学家和气候科学家一同，将人工智能系统带来的人类灭绝风险确定为世界上最重要的问题。”在同日发表的另一份声明中，“人工智能安全中心”如此写道。声明还称，获得超350名专家、学者和高管联名的公开信肯定了目前日益增长的公众情绪。路透社和民调机构“益普索”近日进行的一项民调结果显示，有61%的美国受访者认为人工智能威胁着人类的未来。“人工智能安全中心”丹·亨德里克斯表示，解决全世界现已感受到的人工智能负面影响至关重要，同时国际社会还应有先见之明，“设置护栏”，预测更先进的人工智能系统将带来的风险，“这样才不会有朝一日措手不及”。路透社提到，这封公开信发出呼吁之际，恰逢美国-欧盟贸易和技术委员会在瑞典举行会议。自去年11月底面世至今，ChatGPT便不断引起争议。作为AlphaGo之后又一个基于人工智能技术的现象级应用，ChatGPT颠覆了公众对聊天机器人的认知，也再次唤醒了人类对人工智能的担忧。今年3月，另一个国际AI领域非营利组织“未来生命研究所”以公开信的方式发起倡议，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。截至3月29日下午，公开信获得了包括马斯克在内的超1000名科技界人士的联名签署。另据《纽约时报》报道，本月早些时候，三家全球顶尖AI公司的CEO阿尔特曼、哈萨比斯和阿莫迪曾前往白宫会见拜登和哈里斯，讨论人工智能监管问题。在会后的参议院证词中，阿尔特曼警告说，先进人工智能系统所带来的风险，已严重到需要保证政府干预。
页:
[1]