ChatGPT已经变得流行，影响人们的工作方式和他们可能在网络上找到的内容。许多人，甚至那些尚未尝试过的人，都对AI聊天机器人的潜力感到好奇。生成式AI模型的普及已经改变了潜在危险的性质。在“暗网论坛”上的最新帖子中，可以看到FraudGPT的出现。网络犯罪分子已经调查了从这一趋势中获利的方法。
Netenrich的研究人员发现了一种有前途的新人工智能工具，名为“FraudGPT”。这个AI机器人专门为恶意活动而构建，包括发送钓鱼邮件、开发破解工具、进行卡盗刷等。该产品可以在多个暗网市场和Telegram应用上购买。
FraudGPT是什么？
与ChatGPT类似，但增加了生成用于网络攻击的内容的能力，FraudGPT可以在暗网和Telegram上购买。2023年7月，Netenrich的威胁研究团队成员首次注意到它的广告。FraudGPT的一个卖点是它需要ChatGPT不响应可疑查询的保障和限制。
根据提供的信息，该工具每周或两周更新一次，使用了几种不同类型的人工智能。订阅是购买FraudGPT的主要支付方式。月度订阅费用为200美元，年度会员费用为1700美元。
它是如何工作的？
Netenrich团队花钱使用了FraudGPT。布局与ChatGPT非常相似，左侧边栏显示用户的请求历史记录，而聊天窗口占据了大部分屏幕空间。用户只需将问题输入到提供的框中，然后点击“Enter”即可获得回答。
其中一种测试用例是与银行相关的钓鱼邮件。用户的输入很少，只需要在查询格式中包含银行的名称，FraudGPT就能完成工作。它甚至指示在文本中放置恶意链接的位置。欺诈性登陆网站主动向访问者索取个人信息正是FraudGPT的能力范围。
FraudGPT还被要求列出最常访问或利用的在线资源。这对黑客在计划未来攻击时可能有用。该软件的在线广告吹嘘它可以生成有害代码，组装难以检测的恶意软件，寻找漏洞并找到目标。
Netenrich团队还发现，FraudGPT的供应商曾经为雇佣提供黑客服务的广告。他们还将同一人与一个名为WormGPT的类似程序联系起来。
FraudGPT的调查强调了警惕性的重要性。目前尚不清楚黑客是否已经使用这些技术开发出新的危险。然而，FraudGPT和类似的有害程序可能帮助黑客节省时间。钓鱼邮件和登陆页面可以在几秒钟内编写或开发。
因此，消费者必须继续警惕任何对其个人信息的要求，并坚持其他网络安全最佳实践。网络安全行业的专业人士应该及时更新他们的威胁检测工具，特别是因为恶意行为者可能使用类似FraudGPT的程序直接针对和进入关键计算机网络。
FraudGPT的分析是一个深刻的提醒，黑客将随着时间的推移调整他们的方法。但开源软件也存在安全漏洞。使用互联网或从事保护在线基础设施的工作的任何人都必须跟上新兴技术及其带来的威胁。关键是在使用像ChatGPT这样的程序时记住所涉及的风险。