人工智慧正在迅速發展，並為新的應用鋪平了道路。其中，ChatGPT 因其儲存用戶資訊的能力而脫穎而出。但這個功能有風險，研究人員發現了一個被駭客利用的缺陷。
人工智慧正在以令人印象深刻的速度發展，並在過去兩年深刻地改變了我們與科技的關係。聊天GPT由OpenAI開發的，是該領域最受歡迎的工具之一。有能力產生幾乎人類的對話，它隨著時間的推移而改善，這要歸功於它的記憶功能。後者讓他能夠保留訊息例如姓名、偏好或過去的互動。其目標是為其用戶提供個人化服務。
然而，這種記憶能力並非沒有危險。安全研究人員最近發現MacOS 版本有缺陷由 ChatGPT 提供。該漏洞將允許駭客操弄人工智慧記憶將惡意資訊引入其中，從而為用戶帶來安全風險。
安全專家團隊證明，攻擊者可以使用命令注入技術來插入惡意指令在與 ChatGPT 的對話中。然後，這些內容會儲存在人工智慧的長期記憶中，這意味著即使在會話結束後它們也會持續存在。在未來與使用者的討論中，程式可以使用此虛假資訊。這使得駭客能夠攔截或竊取敏感數據透過指導交流個人資訊。
關於同一主題——OpenAI 推出 o1 和 o1-mini 模型，這是複雜任務中的“蛋糕上的草莓”
為了限制這種風險，OpenAI 引入了一個補丁，可以透過 ChatGPT Web 介面防止此類攻擊。然而，研究人員指出，未經驗證的內容，例如第三方文件或圖像，可能會再次利用這個缺陷。因此鼓勵用戶禁用記憶功能或到仔細監控「記憶體更新」通知可檢查已儲存的內容。
來源 ：擁抱紅色
詢問我們最新的！
太陽系中行星的略微傾斜和偏心的軌道長期以來一直引起科學家的興趣。一項新的研究提出了一個令人著迷的理論：來自另一個恆星系統的巨大物體會破壞其最初的組織。太陽系...
訊息
