Meta 开发了一种新工具，名为“能够标记人工智能生成的语音”。这项创新旨在打击越来越多地使用语音克隆工具进行诈骗和错误信息。尽管看起来很有希望，但这项技术仍远未达到完美。
内容生成技术人工智能正变得越来越复杂。它们被用于各个领域，从艺术创作到模仿人声。然而，这项技术进步也表明风险很重要，特别是在虚假信息和的欺诈罪，正如最近以模仿 Kylian Mbappé 的 Deepfakes 形式。
Meta 继续将人工智能集成到 Facebook、Instagram 等移动应用程序中、Messenger 和 WhatsApp，这使得用户几乎不可避免地会使用它。但要回应担忧关于虐待该公司刚刚推出了这项技术音频密封。该系统使得集成成为可能音轨中的隐藏信号由人工智能生成。它们被称为水印或水印，旨在易于检测。
这个Meta算法可以很容易地检测deepfakes，但它仍然没有用
AudioSeal 因其能够标记长音频文件的特定片段（例如长达一小时的播客）而脱颖而出。报告人工智能生成的游戏。这可以帮助打击深度造假声音诈骗，特别是在选举期间利用公众人物声音的诈骗。 Meta声称其系统实现了精确包括水印检测90% 到 100% 之间并且它超越了他之前的所有尝试。
尽管具有潜力，AudioSeal 仍呈现出几个限制。目前，音频水印还没有行业标准。这意味着可以轻松编辑或删除这些内容。此外，Meta 没有尚未计划应用这些水印由自己的工具生成的音频。这项技术还要求用户自愿添加这些水印到自己的音频文件，很难想象想要窃取您的识别码的黑客将它们整合起来。最后，有关该算法的详细信息是公开的这一事实可能会使系统容易受到攻击。
