Facebook 和 Instagram 找到了打击假新闻的新方法

虚假信息在社交网络上迅速传播，尤其是在 Meta 上。因此，该公司找到了一种新方法，让用户可以知道某些图像是否是假的。

Facebook和Instagram的母公司Meta宣布将开始标签由人工智能（AI）在其平台上生成或操纵的图像。这项措施是 Meta 努力的一部分提高在线透明度并防止错误信息的传播，特别是在 2024 年选举前夕。

Meta 已经使用可见水印来标记其自己的 Imagine AI 引擎创建的图像，该引擎可以生成人物、地点和事物的逼真照片。该公司现在计划将这种做法扩展到来自第三方来源的图像，例如 OpenAI、Google 和 Midjourney。标签将表明图像是人工智能生成的，并提供有关来源和过程的更多信息。标签的具体设计仍在最终确定中，但是Meta 分享了它们的外观模型，图像旁边带有“AI Info”字样。

另请阅读–在 TikTok 上，假新闻和阴谋论因人工智能而愈演愈烈

Meta 希望在其社交网络上标记虚假图像

除了可见标签之外，Meta 还开发了用于检测第三方生成器图像中不可见标记的工具。这些标记嵌入在图像元数据中，并用作编辑软件无法更改的唯一标识符。 Meta 表示其他平台也有计划使用此类标记并希望建立一个系统来识别它们。

但是人工智能生成的音频和视频呢？Meta承认目前不具备识别此类内容的技术与图像处于同一水平。不过，他表示该行业正在努力建立这种能力，他将相应地更新他的政策。

同时，Meta将要求用户表明其上传的音频或视频内容是否由AI制作或编辑。如果他们不这样做，他们将受到惩罚。此外，如果内容过于真实，可能会误导观众，Meta 会放置一个更显眼的标签，其中包含更多细节。

Meta 准备打击假新闻

Meta 还增强了自己的人工智能工具，例如 Imagine AI 引擎和大型语言模型 (LLM)。该公司的 FAIR AI 研究实验室正在研究一种名为“稳定签名”的新水印技术，该技术将使标记更耐删除。 Meta 还根据其社区标准对其法学硕士进行培训，以便他们可以举报违反其政策的内容。

«随着人类内容和合成内容之间的区别变得越来越模糊，人们想知道界限在哪里该公司国际事务总裁尼克·克莱格说。 “人们经常第一次发现人工智能生成的内容，我们的用户告诉我们，他们很欣赏这项新技术的透明度。因此，帮助人们了解他们看到的逼真内容是否是使用人工智能创建的非常重要»。

Meta 表示将在未来几个月推出人工智能生成图像的标签，它正在为包括美国在内的许多国家的 2024 年选举做准备。该公司希望这些标签能够帮助用户做出明智的决定，并防止错误信息在其平台上传播。

尽管如此，Meta 独立资助但独立管理的监督委员会最近要求该公司审查其“不一致”的受操纵媒体政策。在维持允许乔·拜登总统的编辑视频保留在 Facebook 上的决定后。