谷歌近日宣布，计划更新其搜索引擎，以便更清晰地标识搜索结果中的图像是否由人工智能（AI）生成或编辑。在未来几个月内，用户将在“关于这张图片”窗口、谷歌镜头和搜索圈等功能中看到由AI生成或编辑的图像标记。谷歌还计划将这一标识系统扩展到YouTube等其他产品。
AI图像标记标准
谷歌将仅对包含“内容来源和真实性联盟（C2PA）元数据”的图像进行AI操作的标记。C2PA是一个致力于开发技术标准以追溯图像历史的组织，包括图像的捕获和创建过程中使用的设备和软件信息。目前，谷歌、亚马逊、微软、OpenAI和Adobe等公司支持C2PA，但其标准尚未被广泛采用。
元数据的挑战
需要注意的是，C2PA元数据可能面临被删除、损坏或变得不可读的风险。此外，一些流行的AI工具，例如Flux，其生成的图像并未包含C2PA元数据，因为这些工具的开发者尚未同意支持这一标准。
应对深度伪造
尽管存在挑战，谷歌的这些更新措施对于应对日益泛滥的深度伪造内容具有积极意义。据估计，从2023年到2024年，涉及AI生成内容的诈骗案件增长了245%。德勤预测，与深度伪造相关的损失将从2023年的123亿美元激增至2027年的400亿美元。
公众普遍对深度伪造技术表示担忧，担心其可能被用于误导和传播虚假信息。谷歌的更新旨在提高用户对AI生成内容的识别能力，以减少误导和欺诈的风险。
0条评论