“AI教父”：这可能比气候变化更紧迫

豉Len弹

据路透社5月9日报道，有“人工智能（AI）教父”之称的杰弗里·辛顿（Geoffrey Hinton）5日警告称，AI对人类构成的威胁可能比气候变化“更为紧迫”。

自本月初宣布从谷歌离职后，辛顿频频公开表达对AI技术的担忧，包括使人失业、散布虚假信息等问题，并称如果没有监管，科技巨头间的竞争将升级为全球性竞赛且难以停步。

本月早些时候，白宫公布了AI监管计划，美国总统拜登和副总统哈里斯会见了谷歌、微软、OpenAI和Anthroic的首席执行官，敦促这些行业领先企业解决AI发展的风险。

杰弗里·辛顿

现年75岁的辛顿在人工神经网络领域长期从事开创性工作，被认为对当代人工智能系统的发展至关重要，在业内被称为“人工智能教父”。1986年，辛顿和同事在论文中提出了“反向传播算法”机制，这是现代“深度学习”理论的奠基石之一。以此为基础，辛顿在该领域提交了诸多专利申请，并与另外两位“深度学习之父”共同获得2018年图灵奖。

本月5日接受路透社采访时，辛顿就AI技术风险发出警告，他将之与气候变化相比：“我不想贬低气候变化的价值，我不会说‘你不用担心气候变化’，那也是个巨大风险。但我认为，这件事（AI）最终可能会变得更加紧迫。”

他补充称，应对气候变化的建议很容易提出，比如你应该停止燃烧碳，只要践行，一切都会好起来，但对于AI“我们根本不清楚应该怎么做”。

不过，虽然辛顿担心AI可能被证明是对人类生存的威胁，但他不同意暂停相关研究。

“这完全不现实。我所在的阵营认为这是一个存在主义风险（existential risk），且迫在眉睫，我们现在应该全力工作，投入大量资源，弄清楚我们能做些什么。”

此外，辛顿称：“科技企业高管们对此最了解，政界人士也必须参与进来。它影响到我们所有人，所以我们都必须思考这一问题。”

据《纽约时报》早前报道，辛顿于当地时间5月1日宣布自己从谷歌离职，他透露离职就是希望在不影响前雇主的情况下，公开自由地谈论AI技术的风险。他眼下担心互联网会充斥虚假信息，普通人将“再也无法知道什么是真实的”，他还担心AI技术迟早会颠覆就业市场。

他甚至对自己在人工智能领域所做的工作和贡献感到遗憾和懊悔，“我用一个惯常的借口来安慰自己——如果我没有这样做，其他人也会这样做”。

辛顿认为，AI技术发展的速度已经超过了自己曾经的预期，如果没有全球性的监管，科技巨头间的竞争将升级为全球性竞赛，且难以停止。

当地时间5月2日，辛顿接受美国有线电视新闻网（CNN）采访时再度表态称，作为一名科学家，突然意识到AI比人类更聪明之后，他才想要做一个“吹哨人”，以阻止AI可能控制人类的事情发生。

此前，马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等1000名科技人士签署了一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

当地时间5月4日，美国总统拜登和副总统哈里斯在白宫会见了谷歌、微软、OpenAI和Anthroic四家科技企业的首席执行官，敦促这些企业解决人工智能发展的风险。会议召开前几小时，白宫还公布了一系列应对人工智能挑战的举措，并宣布美国国家科学基金会计划拨款1.4亿美元，用于启动7所新的AI研究机构。