还记得科幻电影《她》吗？聊聊CHATGPT,第一批因ChatGPT坐牢的人已经在路上

题记

对于还不知道ChatGPT是什么的同学，可以看看这篇文章，我就不在这里重新科普了。

正文

尤还记得2013年尤斯派克琼斯导演的《她》科幻电影正式上映。这部电影讲的其实就是未来人工智能的故事。

《她》是讲述在不远的未来人与人工智能相爱的科幻爱情电影。主人公西奥多（杰昆·菲尼克斯 Joaquin Phoenix 饰）是一位信件撰写人，心思细腻而深邃，能写出最感人肺腑的信件。他刚结束与妻子凯瑟琳（鲁妮·玛拉 Rooney Mara 饰）的婚姻，还没走出心碎的阴影。一次偶然机会让他接触到最新的人工智能系统OS1，它的化身萨曼莎（斯嘉丽·约翰逊 Scarlett Johansson 声）拥有迷人的声线，温柔体贴而又幽默风趣。西奥多与萨曼莎很快发现他们如此的投缘，而且存在双向的需求与欲望，人机友谊最终发展成为一段不被世俗理解的奇异爱情.....

当年感觉这部电影中的人工智能离咱们太远，只是觉得电影剧情真的不错，但是万万没想到，现实回到2023年，只是10年的时间，这部电影在现实已经有了基本的实现的基础，而且第一波因ChatGPT坐牢的人，已经在路上了。。。。

前不久，外国网络安全平台GBHackers披露了一段黑客利用ChatGPT实施诈骗的犯罪行为：黑客通过ChatGPT在短时间内生成完整的诈骗套路话术，并把ChatGPT包装成“虚拟角色”，让受害人以为自己“坠入爱河”，最终遭受诈骗。尽管OpenAI意识到ChatGPT可能会被犯罪分子利用，并对其添加了安全保护机制，但依旧有大批黑客取得了破解安全机制的方法，并利用ChatGPT快速编写犯罪软件。例如编写用于骗取个人信息的钓鱼邮件；生成加密工具远程锁定他人电脑，由此进行勒索；以及生成攻击脚本，对网络用户进行SIM交换攻击（身份盗窃攻击）等等。作为互联网历史上增长最快的消费级应用程序，被黑客利用的ChatGPT无疑像一枚巨大的定时炸弹。目前，美国参、众两院已经将目光聚焦到Open AI身上。据路透社报道，近日，有美国众议院议员公开宣称自己“被人工智能吓坏了，尤其是不受限制和监管的人工智能”，并拿出了决议草案，呼吁强化对人工智能的监管。不仅如此，由于OpenAI在安全保护机制方面对ChatGPT进行了较多限制，ChatGPT似乎正处于一种“情绪崩溃”的状态。据《独立报》报道，在与用户交流时，ChatGPT出现了侮辱用户、对用户撒谎的情形，称用户“像一个骗子、一个操纵者、虐待狂、魔鬼”。不可否认，月活用户数量超过1亿人次的ChatGPT，有着不可估量的巨大价值。但在其技术前景、商业模式都还方兴未艾的时刻，围绕自身的“犯罪方案”以及所造成的负面影响却已真实发生。由新技术衍生的网络信息安全以及违法犯罪等方面的风险，成了摆在全球AI科学家、企业以及国家面前的严肃问题。第一批因ChatGPT坐牢的人，或许已经在路上。

这是前不久路透社的一篇署名文章，不可否认的是，也许利用人工智能来谈一场虚假的恋爱，离我们真的已经没有距离，而是悄然发生，据外国网络安全平台GBHackers报道，由于具备强大的工作生产效率，ChatGPT深深地吸引了网络诈骗犯。借助ChatGPT，诈骗者可以在几秒钟内生成一条完整的诈骗“套路”：

从自我介绍、聊天内容到一份精心制作的“情书”，ChatGPT都可以一键生成，甚至还可以通过录入目标对象的特征，对诈骗话术进行个性化定制。在编写情书后，利用生成式AI，黑客能快速创建一个“虚拟角色”，并通过电子邮件引诱受害者“坠入爱河”。然后搭配由ChatGPT辅助编写的收款程序或银行卡信息获取连接，诈骗受害人钱财。

问题是，你能分清，这是真人写的情书，还是人工智能写的情书吗？更重要的问题是，用人工智能去写情书，还只是外国黑客们“牛刀小试”的成果。

据IT安全公司Check Point披露，更厉害的黑客已经开始利用ChatGPT批量生成勒索软件与恶意代码。此前，Check Point威胁情报组经理Sergey Shykevich表示，最近几周，他们已经得到了一些网络犯罪分子利用ChatGPT实施犯罪的证据。

据Shykevich介绍，这些犯罪者正在绕开OpenAI的安全限制，能自由地操纵ChatGPT去编写犯罪程序。为了方便在GPT模型上搭载更多的应用程序，OpenAI为开发人员预留了应用程序编程接口。而黑客就是利用这些接口，把GPT模型引入到一系列外部应用。比如，黑客将OpenAI的GPT-3模型集成到即时通讯软件Telegram的通道中。凭借这种操作，黑客们就可以通过Telegram“隔空”使用ChatGPT，以此绕开安全监管。目前，突破ChatGPT安全限制的应用已在美国暗网内公开出售，应用服务购买者按使用次数向黑客付费。收费不算太贵：前20次对话免费体验，此后每向ChatGPT进行100次对话，就需支付5.5美元（折合人民币37.6元）。

能绕过Open AI安全措施，用ChatGPT进行“自由问答”的软件已在暗网上售卖

围绕类似的安全突破方法，一系列犯罪方法论已经成型，比如借助ChatGPT创建信息窃取程序。

此前，一个名为《ChatGPT——恶意软件的好处》的帖子曾在国外暗网黑客论坛上传播。该贴子的创建者分享了自己利用ChatGPT建立窃取程序代码的全过程，按照操作流程，ChatGPT在较短时间内即可生成一款可扒取、压缩、传输12类文件的程序。除了信息窃取，ChatGPT还能帮助黑客生成攻击软件和勒索病毒。据英国《金融时报》报道，近日，一款由ChatGPT辅助生成的SIM交换攻击脚本开始在网络上传播。SIM交换攻击即身份盗窃攻击，原理是突破移动电话公司对电话号码的控制权，将电话号码从原持有者的SIM卡交换到由攻击者控制的SIM卡中，从而控制受害者的移动电话。勒索病毒则是通过ChatGPT来生成多层加密软件，以此对受害者的计算机进行远程锁定，通过向受害人收取被锁计算机的“赎金”来获益。

想想电影《她》里面的情节，是不是感觉，其实现实往往比电影更加魔幻，更加可怕？

《金融时报》对此评价，ChatGPT目前虽然只是内容生成工具，并未直接参与犯罪，但这标志人们开始使用人工智能来入侵他人，技术水平更低的犯罪者将因此获得更强大的犯罪手段。ChatGPT就像潘多拉魔盒，一旦被打开，想要关上就没那么容易了。

任何科技都是一把双刃剑，它本身没有好坏，只在于怎么用它的人，但愿，人工智能给我们带来的都是方便与便利。