Meta 開發了一種新工具，名為「能夠標記人工智慧產生的語音」。這項創新旨在打擊越來越多地使用語音克隆工具進行詐騙和錯誤訊息。儘管看起來很有希望，但這項技術仍遠未達到完美。
內容生成技術人工智慧正變得越來越複雜。它們被用於各個領域，從藝術創作到模仿人聲。然而，這項技術進步也表明風險很重要，特別是在虛假資訊和的詐欺罪，正如最近以模仿 Kylian Mbappé 的 Deepfakes 形式。
Meta 繼續將人工智慧整合到 Facebook、Instagram 等行動應用程式中、Messenger 和 WhatsApp，這使得用戶幾乎不可避免地會使用它。但要回應擔憂關於虐待該公司剛剛推出了這項技術音訊密封。該系統使得整合成為可能音軌中的隱藏訊號由人工智慧產生。它們被稱為水印或水印，旨在易於檢測。
這個Meta演算法可以很容易地檢測deepfakes，但它仍然沒有用
AudioSeal 因其能夠標記長音訊檔案的特定片段（例如長達一小時的播客）而脫穎而出。報告人工智慧生成的遊戲。這可以幫助打擊深度造假聲音詐騙，特別是在選舉期間利用公眾人物聲音的詐騙。 Meta聲稱其係統實現了精確包括水印檢測90% 到 100% 之間並且它超越了他之前的所有嘗試。
儘管具有潛力，AudioSeal 仍呈現出幾個限制。目前，音頻水印還沒有行業標準。這意味著可以輕鬆編輯或刪除這些內容。此外，Meta 沒有尚未計劃應用這些浮水印由自己的工具產生的音頻。這項技術還要求用戶自願添加這些浮水印到自己的音檔，很難想像想要竊取您的識別碼的駭客將它們整合起來。最後，有關該演算法的詳細資訊是公開的這一事實可能會使系統容易受到攻擊。
