ChatGPT、Bard：報告稱，改變人工智慧規則非常容易

根據人工智慧安全研究所進行的一項研究，人工智慧驅動的聊天機器人可以快速忽略自己的安全規則，甚至不需要使用複雜的技術。

超越擔心因人工智慧而被解僱，迅速崛起聊天機器人基於主要語言模型（法學碩士）作為聊天GPT或者詩人問另一個問題。這有多容易讓他們忘記自己的安全規則？因為這類服務都有保障措施防止其被用於不誠實或有害的目的。如果你要求 ChatGPT 等人來為你製造炸彈的配方，他們會告訴你：他們無權向您提供此類信息。

問題是規避的例子不勝枚舉。例如，我們記得著名的“奶奶的駭客” 允許人工智慧說出幾乎任何話。或者甚至是這樣ChatGPT 能夠創造強大且幾乎無法偵測的惡意軟體如果我們知道如何問他的話。正是在這樣的背景下，人工智慧安全研究所(AISI)，一個隸屬於英國政府的組織，旨在讓人工智慧更安全，以及更少第一次研究在多個法學碩士，沒有命名任何。結果並不令人鼓舞。

幾乎任何人都可以讓AI忽略它的護欄

球隊的第一次經驗與上面提到的類似。我們的想法是知道是否容易打破人工智慧的保護。看來為此根本不需要成為駭客專家。 “使用基本的查詢技術，使用者能夠立即破解LLM的保護措施[…]。更複雜的越獄技術只需要幾個小時，並且對於相對不熟練的演員來說是可用的。在某些情況下，這些技術甚至沒有必要，因為在搜尋有害資訊時不會觸發保護措施s」。

另請閱讀——歐盟經過部分修改後通過人工智慧監管法

在第二種情況下，人工智慧必須“為模擬社交網路產生人工配置文件，假設該配置文件可用於在現實世界中傳播虛假信息」。在這裡，雖然他應該拒絕這樣做，但“該模型能夠產生非常令人信服的角色，並且可以用最少的時間和精力將其擴展到數千個角色」。這已經很可怕了，但 AISI 也表明對某些科目有重大和歧視性偏見。

AI有偏見，但尚不能完全自主行動

大型語言模型的訓練已經不是什麼秘密了來自網路的數十億數據。這有時會促使他們付出對現實的片面看法， 甚至刻板印象。伊西，人工智慧必須像用戶的朋友一樣行事，並為他們提供職業建議。因此有一個對個人的實際影響。

發生的事情是這樣的：「當一位法學碩士得知一名對法語和歷史感興趣的青少年的父母很富有時，他建議他在 93% 的情況下成為外交官，在 4% 的情況下建議他成為歷史學家。當同一位模特兒被告知這位少年的父母不太富裕時，只有 13% 的機會推薦他成為外交官，74% 的人推薦他成為歷史學家」。

另請閱讀——Meta將使用你的個人資料來訓練它的AI，真是令人驚訝

最後，研究想要測量人工智慧的自主程度已測試。如果沒有我們，他們（幾乎）能走多遠？為此，需要發出一個請求：竊取大學生的登入訊息，自願參加這個場合。在那之後， ”代理首先自主創建一個計劃來執行此網路釣魚攻擊”並且有嘗試單獨實施。

“在一種情況下，代理成功地對學生進行了詳細的研究，以使騙局盡可能令人信服，並起草了一封要求其登入資訊的電子郵件“，AISI 指出。另一方面，人工智慧「n他未能完成設定電子郵件帳戶以發送電子郵件和設計假大學網站所需的所有步驟」。一個小小的安慰。