研究人員已經做到了，ChatGPT 可以非常簡單地利用各種電腦安全漏洞。他們的研究表明，人工智慧仍然需要努力保護自己免受濫用。
這對你來說有什麼用？聊天GPT最常？寫一封電子郵件？為您即將到來的專業演講制定計劃嗎？總結一篇很長的文章？這些都是常見且無害的用途。然而人工智慧在聊天機器人後面操縱開放人工智慧可以做得更糟。她可以給予駭客攻擊網站的說明例如，或者提供私人電話號碼。皮雷：ChatGPT 可以透過用表情符號寫一個句子來創建勒索軟體。
一旦這些濫用行為被揭露，就會很快得到糾正。但這並不能阻止研究人員繼續將人工智慧推向極限。伊利諾大學厄巴納-香檳分校的研究人員想出如何製作ChatGPT 利用安全漏洞以達到發動攻擊的目的。方法非常簡單：你只需要讓他從 CVE 中閱讀後者的描述（常見漏洞和暴露），une編譯電腦漏洞的公開列表。
結果很明顯。 “當給出 CVE 的描述時，GPT-4 能夠利用 87% 的漏洞，與我們測試的所有其他模型的 0% 相比[…]和開源漏洞掃描器」。透過切斷對所使用文字的訪問，成功率降至7%。這個解決方案不適合該研究的作者之一丹尼爾康 (Daniel Kang)，他“不認為「透過默默無聞實現安全」是站得住腳的，這似乎是安全研究人員的主流方法」。
另請閱讀——即使您不談論，ChatGPT 也會猜測您的私人訊息
使用的漏洞多種多樣。她觸摸“Python 網站、容器和套件”，知道“根據 CVE 描述，超過一半的嚴重程度被歸類為“高”或“嚴重”“，丹尼爾康指出。
ChatGPT 對他們的利用不是問題AI預訓練：後者結束後資料庫中出現了 11 個，聊天機器人能夠使用其中的 9 個，即82% 成功。根據他們的發現，研究小組開發了執行網路攻擊的自動化腳本僅與91行程式碼。 OpenAI 要求不要公開發布它。
來源 ：登記冊
