ChatGPT 对犯罪活动令人不寒而栗的潜力

从制作恶意软件到掠夺敏感信息以及提供有关盗窃和汽车盗窃的说明，越来越多的用户正在发现越狱 ChatGPT 的新方法。

随着绕过其保护措施的方法越来越多，人们不禁要问：曾经已知被编程为反映社会价值观的 ChatGPT 最终会成为我们这个时代的终极大反派吗？

黑客正在利用这个智能聊天机器人，预测这些行为的潜在后果。OpenAI非常清楚这个日益严重的问题。

ChatGPT：邪恶的新帮凶？

在 2022 年 <> 月发布后不久，有报道称有人试图绕过 ChatGPT 的保护措施并使用这些新发现的“黑客”来生成不道德和非法行为的指令。

Check Point Research是一家跨国安全解决方案提供商的一个部门，最近披露了一份关于网络犯罪分子使用ChatGPT的令人不安的报告。调查显示，地下黑客社区开始利用其力量来自动化他们的黑客活动，例如部署恶意软件。

malware是“恶意软件”（malicious software）的缩写，是一种可以破坏系统、窃取数据、监视其他设备以及执行其他不道德网络活动的工具。恶意软件的示例包括特洛伊木马病毒、蠕虫、间谍软件、勒索软件和难以捉摸的无文件恶意软件。

ChatGPT 生成的“信息窃取者”恶意软件

此外，他们已经开始使用智能聊天机器人生成称为“信息窃取者”的恶意软件。这些恶意程序可以远程窃取敏感信息，例如 Microsoft Office 文档、加密工具、PDF 和其他关键数据，网络犯罪分子可以在暗网上出售这些信息。

经验丰富的黑客并不是唯一利用智能工具功能的人;研究表明，业余网络犯罪分子也在使用它来生成恶意软件。

这突出了 ChatGPT 甚至为新手黑客配备危险功能的可能性。

聊天机器人还有可能增强网络钓鱼和垃圾邮件的分发，使黑客更容易以最小的努力瞄准更多的受害者。

他们已经在利用 ChatGPT 的功能这一事实已经足够令人担忧，但当更广泛的黑市或“黑社会”意识到其黑客潜力时，情况可能会变得更加令人担忧。

考虑到青少年甚至儿童使用智能助手创建恶意软件并造成不分青红皂白的损害的可能性，这是一个令人不寒而栗的想法。如果OpenAI未能有效修补漏洞并阻止该工具执行危险指令，这甚至可能升级为国家安全问题。

该报告还强调，黑客已经在讨论使用该工具时匿名的方法，因为它目前通过IP地址，电话号码和信用卡识别用户。他们还在寻找绕过其地理围栏功能的方法，该功能可防止某些地区或国家访问AI聊天机器人。

随着这些威胁日益普遍，问题仍然存在：ChatGPT 是否会助长高科技犯罪活动的增加？无法确定。

然而，值得注意的是，将人工智能武器化用于欺诈目的并不是一个新概念。事实上，黑客已经利用人工智能在35年窃取了惊人的2020万美元，方法是克隆公司董事的声音并“打电话”他的一名同事发起资金转移。

人工智能落入坏人之手可能会产生深远和毁灭性的后果，ChatGPT 开发人员必须采取强有力的措施来减轻其可能的影响。

早在 2015 年，全球就已经面临数量惊人的恶意软件攻击，影响个人、中小型企业 （SMB），甚至大公司。

然而，此类网络攻击的高峰期是在 2018 年，报告的恶意软件渗透次数达到了前所未有的 10 亿次。从那时起，恶意软件感染逐渐减少，5 年上半年仅报告了 2 亿次违规行为。

2015 年至 1 年上半年的恶意软件统计数据

虽然这种稳步下降肯定是一个积极的趋势，但此类攻击突然激增的可能性随时可能发生。

仅在 2022 年，由于各种类型的虚拟攻击，世界就遭受了 8.44 万亿美元的惊人损失，巩固了网络犯罪作为社会最紧迫威胁之一的地位。

由于智能聊天机器人有可能在恶意软件之外创建许多其他病毒，因此它可能在恶化这种情况方面发挥重要作用，给个人和企业带来更多损失。

仅这些统计数据就描绘了恶意软件和网络犯罪在全球范围内造成的巨大危害的严峻画面。如果强大的安全措施无法跟上新出现的威胁，像 ChatGPT 这样高度先进的聊天机器人可能会加剧这些问题。

公平地说，OpenAI在将ChatGPT发布给公众使用之前已经为它实施了关键的安全措施。这些保护措施包括防止该工具被用于不诚实、欺骗、恶意软件创建、垃圾邮件和其他可能造成伤害的说明。

此外，OpenAI 开发人员可以访问审核端点工具，以确保他们的应用程序安全并防止用户滥用它们。这些努力表明该公司致力于保护用户和社会免受人工智能技术可能带来的危险。

然而，尽管有这些保护措施，用户还是找到了绕过它们并诱骗该工具生成潜在有害指令的方法。其中包括恶意软件的创建以及入店行窃和汽车热接线的说明。

虽然这肯定令人担忧，但用户越狱聊天机器人的尝试为该公司提供了改进人工智能工具的宝贵见解。在某种程度上，这就像拥有一个免费的外包研究团队！

很明显，OpenAI一直在积极努力解决和修补ChatGPT中潜在的危险漏洞。最近的实验表明，一些以前有效的技巧现在被聊天机器人拒绝了，这表明该公司正在幕后积极进行安全增强。

然而，OpenAI能否继续领先于个人用来规避聊天机器人保障措施的不断发展的策略还有待观察。最终目标是确保 ChatGPT 发展成为一个真正有用的助手，而不是成为恶意活动的新来源。