生成式人工智慧能夠做一千零一件事，從生產力方面最有用的到最有害的。網路犯罪分子已經了解他們可以從這項新技術中獲得的所有好處。我們越來越常聽到使用此類新型工具創建的更複雜的網路釣魚活動。
以今天為例，它是蠕蟲GPT誰讓人們談論他。這個專為駭客設計的聊天機器人是在盜版網站上免費提供。其設計者聲稱，它可以輕鬆創建「電子郵件洩漏攻擊」。換句話說，它允許您創建個性化的電子郵件活動對於商業、政府或非營利組織的員工來說非常有說服力。
顧名思義，WormGPT 是主流 AI 的替代品，如巴德和查特GPT。與它們一樣，惡意軟體也利用了專有的語言模式。它的創建者甚至將 WormGPT 定義為「著名的 ChatGPT [...] 的最大敵人，它可以讓你做各種非法的事情」。正如我們所看到的，WormGPT 的工作不受任何道德限制，例如與 ChatGPT 不同。
也就是說，儘管 WormGPT 作為專門的惡意軟體進行銷售，但更主流的人工智慧工具也能夠造成同樣大的傷害。情況是這樣的Google 聊天機器人 Bard 現已在法國推出。 Check Point Research 發現駭客正在利用 Mountain View AI 創建惡意內容。研究人員表示，開發者帶來的道德約束Bard 比 ChatGPT 更容易被濫用。
此外，Mithril Security 的研究人員已經證明有可能「破壞」大型語言模型透過修改名為 GPT-J-6B 的開源 LLM。經過修改後，它專門傳播虛假訊息。它的設計者將其放在公共儲存庫中，以便網路使用者可以將其整合到其他應用程式中，並毒害法學碩士供應鏈：一種稱為 PoisonGPT 的技術。
來源 ：駭客新聞
