研究人员已经做到了，ChatGPT 可以非常简单地利用各种计算机安全漏洞。他们的研究表明，人工智能仍然需要努力保护自己免受滥用。
这对你来说有什么用？聊天GPT最常？写一封电子邮件？为您即将到来的专业演讲制定计划吗？总结一篇很长的文章？这些都是常见且无害的用途。然而人工智能在聊天机器人后面操纵开放人工智能可以做得更糟。她可以给出黑客攻击网站的说明例如，或者提供私人电话号码。皮雷：ChatGPT 可以通过用表情符号写一个句子来创建勒索软件。
一旦这些滥用行为被揭露，就会很快得到纠正。但这并不能阻止研究人员继续将人工智能推向极限。伊利诺伊大学厄巴纳-香槟分校的研究人员想出了如何制作ChatGPT 利用安全漏洞以达到发起攻击的目的。方法非常简单：你只需要让他从 CVE 中阅读后者的描述（常见漏洞和暴露），une编译计算机漏洞的公开列表。
结果很明显。 “当给出 CVE 的描述时，GPT-4 能够利用 87% 的漏洞，与我们测试的所有其他模型的 0% 相比[…]和开源漏洞扫描器”。通过切断对所使用文本的访问，成功率降至7%。这一解决方案不适合该研究的作者之一丹尼尔·康 (Daniel Kang)，他“不认为“通过默默无闻实现安全”是站得住脚的，这似乎是安全研究人员的主流方法”。
另请阅读——即使您不谈论，ChatGPT 也会猜测您的私人信息
使用的漏洞多种多样。她触摸“Python 网站、容器和包”，知道“根据 CVE 描述，超过一半的严重程度被归类为“高”或“严重”“，丹尼尔·康指出。
ChatGPT 对他们的利用不是问题AI预训练：后者结束后数据库中出现了 11 个，聊天机器人能够使用其中的 9 个，即82% 成功。根据他们的发现，研究小组开发了执行网络攻击的自动化脚本仅与91行代码。 OpenAI 要求不要公开发布它。
来源 ：登记册
