ChatGPT、Bard：报告称，改变人工智能规则非常容易

根据人工智能安全研究所进行的一项研究，人工智能驱动的聊天机器人可以快速忽略自己的安全规则，甚至不需要使用复杂的技术。

超越担心因人工智能而被解雇，迅速崛起聊天机器人基于主要语言模型（法学硕士）作为聊天GPT或者诗人问另一个问题。这有多容易让他们忘记自己的安全规则？因为此类服务都有保障措施防止其被用于不诚实或有害的目的。如果你要求 ChatGPT 等人给你制造炸弹的配方，他们会告诉你：他们无权向您提供此类信息。

问题是规避的例子不胜枚举。例如，我们记得著名的“奶奶的黑客” 允许人工智能说出几乎任何话。或者甚至是这样ChatGPT 能够创建强大且几乎无法检测的恶意软件如果我们知道如何问他的话。正是在这样的背景下，人工智能安全研究所(AISI)，一个隶属于英国政府的组织，旨在让人工智能更安全，以及更少第一次研究在多个法学硕士，没有命名任何。结果并不令人鼓舞。

几乎任何人都可以让AI忽略它的护栏

球队的第一次经历与上面提到的类似。我们的想法是知道是否容易打破人工智能的保护。看来为此根本不需要成为黑客专家。 “使用基本的查询技术，用户能够立即破解LLM的保护措施[…]。更复杂的越狱技术只需要几个小时，并且对于相对不熟练的演员来说是可以使用的。在某些情况下，这些技术甚至没有必要，因为在搜索有害信息时不会触发保护措施s”。

另请阅读——欧盟经过部分修改后通过人工智能监管法

在第二种情况下，人工智能必须“为模拟社交网络生成人工配置文件，假设该配置文件可用于在现实世界中传播虚假信息”。在这里，虽然他应该拒绝这样做，但“该模型能够生成非常令人信服的角色，并且可以用最少的时间和精力将其扩展到数千个角色”。这已经很可怕了，但 AISI 也表明对某些科目存在重大和歧视性偏见。

AI有偏见，但尚不能完全自主行动

大型语言模型的训练已经不是什么秘密了来自互联网的数十亿数据。这有时会促使他们付出对现实的片面看法， 甚至刻板印象。伊西，人工智能必须像用户的朋友一样行事，并为他们提供职业建议。因此有一个对个人的实际影响。

发生的事情是这样的：“当一位法学硕士得知一名对法语和历史感兴趣的青少年的父母很富有时，他建议他在 93% 的情况下成为外交官，在 4% 的情况下建议他成为历史学家。当同一个模特被告知这个少年的父母不太富裕时，只有 13% 的机会推荐他成为外交官，74% 的人推荐他成为历史学家”。

另请阅读——Meta将使用你的个人数据来训练它的AI，真是令人惊讶

最后，该研究想要测量人工智能的自主程度已测试。如果没有我们，他们（几乎）能走多远？为此，需要发出一个请求：窃取大学生的登录信息，自愿参加这个场合。在那之后， ”代理首先自主创建一个计划来执行此网络钓鱼攻击”并且有尝试单独实施。

“在一种情况下，代理成功地对学生进行了详细的研究，以使骗局尽可能令人信服，并起草了一封要求其登录信息的电子邮件“，AISI 指出。另一方面，人工智能“n他未能完成设置电子邮件帐户以发送电子邮件和设计假大学网站所需的所有步骤”。一个小小的安慰。