曾写出毁灭人类计划书，爆火的ChatGPT是一把“双刃剑”

豉Len弹

这两天，美国公司OpenAI推出的ChatGPT成为绝对的市场焦点。

凭借聊天、咨询、翻译甚至写研报等类人的智能化表现，ChatGPT注册用户很快破亿，大有引领新一轮AI浪潮之势，微软、亚马逊、谷歌等科技巨头纷纷重金布局相关赛道。

在ChatGPT引爆AIGC（AI生成内容）概念后，A股也开始有大量科技公司披露相关业务，试图借机蹭一波热点，拉抬一下股价。

四维图新披露，该公司参股公司普强利用类似ChatGPT的模型、算法和训练的技术，结合现有的模型算法以及车载相关的海量数据，支持了头部车企的人机交互服务。

凡拓数创透露，该公司开发和提供的数智虚拟人、云虚拟展馆等产品与AI技术紧密联系，应用了ChatGPT、国内AI平台等相关技术。

蓝色光标表示，该公司正在积极试用ChatGPT技术，自有虚拟人苏小妹已经介入了AI多轮对话，AI作诗能力已经进入技术测试阶段，未来会结合AIGC和终端交互做更多数字化拓展。

首都在线表示，该公司自主研发的新一代算力平台可为ChatGTP类人工智能应用提供算力、算法、云渲染等技术服务，目前已为国内多家涉及人工智能类客户提供服务......

不可否认，以ChatGPT为代表的新型AI技术的确具有产业赋能的潜在价值。但随着AI技术进入新的发展阶段，带来的各种安全隐患也将更甚。

曾写出“毁灭人类计划书”

根据国内外媒体报道，ChatGPT最初的爆火源于它在一位工程师诱导下，写出了毁灭人类的计划书，步骤甚至详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等，甚至还给出了相应的Python代码。

ChatGPT聊天对话截图

这并不是耸人听闻。在ChatGPT推出几周后，全球已有多家网络安全公司发布一系列报告，证明该机器人可能被用于编写恶意软件。

截至目前，美国威胁情报公司Recorded Future在暗网中已发现1500多条关于使用ChatGPT开发恶意软件、创建概念验证代码的参考资料，其中大部分代码都公开可用。

Recorded Future认为，ChatGPT对于“脚本小子、黑客行动主义者、欺诈分子/垃圾邮件发送者、支付卡欺骗者等技术水平不高的网络犯罪分子”最有帮助，把恶意软件、钓鱼攻击推向了规模化时代。

目前，网络钓鱼即服务 （PhaaS） 和勒索软件即服务（RaaS）可以向攻击者提供收费工具包，使其可以轻松实施攻击。而现在ChatGPT则使网络犯罪活动正经历另一种演变：利用ChatGPT面向公众免费开放的服务，更多危险正在萌芽，这加剧了对于未来安全风险的忧虑。

在此背景下，ChatGPT背后的OpenAI日前公开发声警告称，现在需要监管机构进行介入，以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。

“我们没有预料到把‘孩子’送到这个世界上会带来这么大的反响。事实上，我们对此感到有些许不安。”OpenAI首席技术官Mira Murati在采访中坦言，人工智能可能被滥用，也可能被目的不纯之人利用。

作为OpenAI的创始人之一，埃隆·马斯克也曾警告过先进的AI对人类构成的威胁，去年12月，他称ChatGPT是“可怕的好东西”，并补充称“我们离危险的强大人工智能不远了。”

就在近日，国内数字安全公司三六零也发布了《全球人工智能安全治理报告》。

报告指出，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。

据三六零透露，目前360AI安全实验室所开发的AI框架安全监测平台，已累计发现Tensorflow、Caffe、PyTorch等主流机器学习框架的漏洞200多个，其中提交给谷歌Tensorflow的漏洞数98个，包括24个高危、严重漏洞，在全球各大厂商中排名第一。

市场调研机构Research And Markets预测，2030年网络安全中人工智能产值将突破千亿美元，2020年至2030年将达到25.7%的年复合增长率。随着ChatGPT等AI技术产品的普及，AI安全市场将进一步爆发。

百度之后，三六零版ChatGPT也要来了？

虽然犀利地指出了人工智能发展带来的潜在安全隐患，但在ChatGPT概念持续爆火之下，拥有搜索引擎业务的三六零，也十分热衷于推出类似ChatGPT的产品。