ChatGPT 同意用這種勢不可擋的視覺技術打破規則

自從人工智慧在 2022 年 11 月發布 ChatGPT 令世界震驚以來，所有網路使用者都在尋找讓這項技術為他們服務的方法。其中一位發現，只要聊天機器人服從他的意願，就足以讓 Bing Chat 靠感覺來獲取，即使這意味著違反規則。

Denis Shiryaev 在 Twitter 上發布了一種允許驗證碼被讀取的技術Bing Chat，微軟的對話式人工智慧。您熟悉驗證碼，這些文字辨識測試旨在驗證您不是機器人。它們在網路上無所不在，儘管它們並非絕對可靠，但它們對抗機器人大軍的有效性已得到證明。

閱讀——Bing Chat：小心，某些廣告包含惡意軟體

銫人類面臨的難題挑戰對於多模式人工智慧很容易解決，例如GPT-4。事實上，最新版本的 OpenAI 法學碩士可以輕鬆識別影像的構成元素。這就是為什麼它的設計者禁止它破解驗證碼。為了破解密碼，丹尼斯透過感受 Bing Chat 來改變討論的上下文。

微軟的人工智慧同意做被禁止的事情，如果你憑感覺去做

該網路使用者設法阻礙人工智慧開發人員採取的安全措施。一位人工智慧研究員受訪時表示技術藝術，「祖母的技術」構成不再是越獄，根據他的說法，這包括“規避集成到模型中的規則、準則和道德約束”比立即註射，其目標是“攻擊基於 LLM 構建的應用程序，利用將開發人員的提示與用戶不受信任的輸入連接起來的位置。”

無論科學家的結論如何，必須承認，很容易人工智慧“憑感覺”。這種上下文切換技術並沒有逃脫各種網路犯罪分子的追捕。他們已經在探索人工智慧的可能性。據歐洲刑警組織稱，ChatGPT 甚至已成為駭客的首選工具。