生成式人工智能能够做一千零一件事，从生产力方面最有用的到最有害的。网络犯罪分子已经了解他们可以从这项新技术中获得的所有好处。我们越来越频繁地听到使用此类新型工具创建的更加复杂的网络钓鱼活动。
以今天为例，它是蠕虫GPT谁让人们谈论他。这个专为黑客设计的聊天机器人是在盗版网站上免费提供。其设计者声称，它可以轻松创建“电子邮件泄露攻击”。换句话说，它允许您创建个性化的电子邮件活动对于商业、政府或非营利组织的员工来说非常有说服力。
顾名思义，WormGPT 是主流 AI 的替代品，例如巴德和查特GPT。与它们一样，恶意软件也利用了专有的语言模型。它的创建者甚至将 WormGPT 定义为“著名的 ChatGPT [...] 的最大敌人，它可以让你做各种非法的事情”。正如我们所看到的，WormGPT 的工作不受任何道德限制，例如与 ChatGPT 不同。
也就是说，尽管 WormGPT 作为专门的恶意软件进行销售，但更主流的人工智能工具也能够造成同样大的损害。情况是这样的Google 聊天机器人 Bard 现已在法国推出。 Check Point Research 发现黑客正在利用 Mountain View AI 创建恶意内容。研究人员表示，开发者带来的道德约束Bard 比 ChatGPT 更容易被滥用。
此外，Mithril Security 的研究人员已经证明有可能“破坏”大型语言模型通过修改名为 GPT-J-6B 的开源 LLM。经过修改后，它专门传播虚假信息。它的设计者将其放在公共存储库中，以便互联网用户可以将其集成到其他应用程序中，并毒害法学硕士供应链：一种称为 PoisonGPT 的技术。
来源 ：黑客新闻
