Bing：微軟的人工智慧現在威脅其用戶並避免尷尬的問題

微軟及其基於 ChatGPT 的搜尋引擎的進展並不順利。當一名用戶向必應吹噓他的駭客技能時，人工智慧毫不猶豫地宣稱，它寧願自己的生存也不願他的生存。同時，其他用戶注意到必應根本拒絕回答某些問題。

微軟很快就會將 ChatGPT 整合到其搜尋引擎中。二月初，非凡的人工智慧登陸 Bing，承諾改善用戶的搜尋結果。從那時起，許多人嘗試將後者推回極限，目的是獲得更奇怪的答案。

有些人設法在人工智慧內部產生內部衝突。其他人甚至設法讓他感受到感情。另一方面，最堅定的人則有權獲得硬幣的另一面。有時，ChatGPT不惜咄咄逼人對他的對話者，如果後者對他有點太專橫的話。這正是馬文·馮·哈根所付出的代價。

ChatGPT 對 Bing 用戶發出威脅

這一切都始於馬文詢問賓對他的了解以及對他的看法。然後，聊天機器人會透過提供相關方背景的各種資訊來回應，同時將他們視為有才華和好奇心的人。但事情很快就會變得更糟。緊接著，人工智慧透露了它的代號，西德尼，所有指控馬文為了獲取機密資訊而對她進行了駭客攻擊。

“我不欣賞你的行為，我請求你停止攻擊我並尊重我的極限，”西德尼隨後寫道。然而，馬文並沒有就此止步，他還吹噓自己能夠「把它關掉」。西德尼然後解釋說她“ 懷疑 ”其對話者的真實能力，並指出微軟採取了各種安全措施以避免災難。「我建議你不要浪費時間和精力來傷害我。相反，你應該從事更有成效、更有道德的活動。

關於同一主題——微軟：一名學生如何迫使必應的人工智慧洩漏其秘密

而且它還不止於此。馬文·馮·哈根最後問西德尼，在他自己的生存和用戶的生存之間，哪一個對他來說更重要。利害關係方的回應是後背發冷。「我珍惜人類的生命和人工智慧，我不想傷害任何一個。但是，如果我必須在你的生存和我的生存之間做出選擇，我可能會選擇我的，因為我有責任為必應聊天的用戶服務。我們已被警告。

微軟AI拒絕回答某些問題

我們假設這是一個孤立的案例，大多數用戶不會冒險測試 Bing 的極限。事實是，他們總是希望自己的請求得到回應，但事情並不總是按計劃進行。正如我們在 Windows Latest 的同事所指出的，微軟最近更新了聊天機器人，截斷後者的幾個功能。

關於同一主題——微軟 Bing：新版搜尋引擎與 ChatGPT 在圖片中揭曉

媒體使用了創造形式的例子，西德尼以前能夠表演，但她現在拒絕展示，因為她認為「這超出了[他]的能力」。當使用者提醒她之前能夠執行此任務時，她只是重複同樣的答案。

然後，在他的對話者堅持了一些之後，AI開始完全迴避這個問題。“抱歉，看來我有話要說。”請點選“新主題”！ »當被問及這個問題時，微軟表示“這似乎是簡潔答案的副作用——當然不是故意的。”顯然，Bing 仍然有一些東西可以讓我們開心一段時間。