Facebook 和 Instagram 找到了打擊假新聞的新方法

假訊息在社交網路上迅速傳播，尤其是在 Meta 上。因此，該公司找到了一種新方法，讓用戶可以知道某些圖像是否是假的。

Facebook和Instagram的母公司Meta宣布將開始標籤由人工智慧（AI）在其平台上產生或操縱的圖像。這項措施是 Meta 努力的一部分提高線上透明度並防止錯誤訊息的傳播，特別是在 2024 年選舉前夕。

Meta 已經使用可見水印來標記其自己的 Imagine AI 引擎創建的圖像，該引擎可以生成人物、地點和事物的逼真照片。該公司現在計劃將這種做法擴展到來自第三方來源的圖像，例如 OpenAI、Google 和 Midjourney。標籤將表明圖像是人工智慧生成的，並提供有關來源和過程的更多資訊。標籤的具體設計仍在最終確定中，但是Meta 分享了它們的外觀模型，圖像旁邊有「AI Info」字樣。

另請閱讀–在 TikTok 上，假新聞和陰謀論因人工智慧而愈演愈烈

Meta 希望在其社交網路上標記虛假圖像

除了可見標籤之外，Meta 還開發了用於偵測第三方生成器影像中不可見標記的工具。這些標記嵌入在影像元資料中，並用作編輯軟體無法變更的唯一識別碼。 Meta 表示其他平台也有計劃使用此類標記並希望建立一個系統來識別它們。

但是人工智慧生成的音訊和視訊呢？Meta承認目前不具備識別此類內容的技術與影像處於同一水平。不過，他表示該行業正在努力建立這種能力，他將相應地更新他的政策。

同時，Meta將要求用戶表明其上傳的音訊或視訊內容是否由AI製作或編輯。如果他們不這樣做，他們將受到懲罰。此外，如果內容過於真實，可能會誤導觀眾，Meta 會放置一個更顯眼的標籤，其中包含更多細節。

Meta 準備打擊假新聞

Meta 也增強了自己的人工智慧工具，例如 Imagine AI 引擎和大型語言模型 (LLM)。該公司的 FAIR AI 研究實驗室正在研究一種名為「穩定簽名」的新水印技術，該技術將使標記更耐刪除。 Meta 還根據其社區標準對其法學碩士進行培訓，以便他們可以舉報違反其政策的內容。

«隨著人類內容和合成內容之間的區別變得越來越模糊，人們想知道界線在哪裡該公司國際事務總裁尼克·克萊格說。 “人們經常第一次發現人工智慧產生的內容，我們的用戶告訴我們，他們很欣賞這項新技術的透明度。因此，幫助人們了解他們看到的逼真內容是否是使用人工智慧創建的非常重要»。

Meta 表示將在未來幾個月推出人工智慧生成圖像的標籤，它正在為包括美國在內的許多國家的 2024 年選舉做準備。該公司希望這些標籤能夠幫助用戶做出明智的決定，並防止錯誤訊息在其平台上傳播。

儘管如此，Meta 獨立資助但獨立管理的監督委員會最近要求該公司審查其「不一致」的受操縱媒體政策。在維持允許拜登總統的編輯影片保留在 Facebook 上的決定後。