为避免大选年出错，谷歌将限制AI回答有关选举的问题
据路透社3月12日报道，美国科技巨头谷歌公司当天表示，将限制旗下人工智能聊天机器人Gemini回答有关今年各国选举的问题，以免出现失误。美国、南非、印度等多个国家将在今年举行大选，公众担心，生成式人工智能的发展可能导致虚假信息泛滥。报道称，去年12月，谷歌就曾宣布在美国境内实施限制措施。例如，在被问及即将到来的2024年美国大选，现任美国总统拜登和前总统特朗普的对决等问题时，Gemini会回答：“我还在学习如何回答这个问题。与此同时，请尝试使用谷歌搜索。”随着多国大选临近，谷歌对旗下聊天机器人的限制将逐步扩大到全球范围。谷歌发言人12日表示，“为了应对2024年世界各地的多场选举，出于谨慎考虑，我们正在限制Gemini回答与选举有关的问题。”美国加州的谷歌总部 图源：视觉中国谷歌还在上个月暂停了Gemini的图像生成功能，原因是其生成的一些历史人物图像并不准确。谷歌DeepMind首席执行官戴密斯·哈萨比斯此前表示，该产品未能按照预期的方式运行，“我们希望在接下来几周内解决问题，重新上线该功能。”今年全球范围内将有数十个国家和地区举行选举，其中包括美国、印度、南非等国家，覆盖超过40亿人口。但公众担心，快速发展的生成式人工智能可能导致错误和虚假信息泛滥。对错误信息的担忧已促使部分国家收紧对人工智能的监管。路透社称，印度已要求科技公司在发布“不可靠”或正在测试的人工智能产品之前，必须先获得政府批准，并标明这些产品可能产生错误答案。美国消费者新闻与商业频道（CNBC）援引机器学习公司Clarity的数据称，随着生成式人工智能的兴起，人工智能生成的深度伪造内容数量增加了900%以上，这引发了公众对于错误信息干扰选举进程的担忧。但与此同时，用于识别深度伪造的检测和水印技术还不够成熟。即使提供服务的平台同意为人工智能生成的图像嵌入不可见的水印或元数据，也有很多办法可以绕过这些保护措施，有时屏幕截图就可以骗过检测。在上个月的慕尼黑安全会议期间，微软、谷歌、Meta、亚马逊、Adobe等20家科技公司签署了一项协议，承诺在今年的全球选举中共同打击由人工智能生成的虚假信息。但路透社称，协议并没有说明履行承诺的具体时间表，或每家公司将如何实施这些承诺。
页:
[1]