随着生成式AI技术的进步，犯罪分子越来越多地利用语音合成技术进行欺诈活动。为了应对这一新兴威胁，美国联邦调查局（FBI）在一份官方公共服务公告（I-120324-PSA）中建议美国人与家人分享一个秘密词语或短语，以验证身份并防范语音克隆诈骗。
FBI的具体建议
- 创建秘密词语或短语：FBI建议家庭成员之间预先约定一个独特的词语或短语，用于在紧急情况下验证彼此的身份。例如，“麻雀在午夜飞翔”、“格雷格是墨西哥卷饼之王”，或者简单地说“flibbertigibbet”。这些词语应保持秘密，避免公开讨论或泄露。
- 仔细聆听语音特征：接到声称来自家人的意外电话时，注意听对方的语调、用词和表达方式。AI生成的语音可能在细微之处与真实声音有所不同，尤其是在情感表达和自然流畅度方面。
- 警惕紧急财务请求：犯罪分子常利用AI生成的语音来冒充亲人，要求紧急财务援助或赎金支付。遇到这种情况时，务必通过其他方式（如视频通话、面对面交流或第三方验证）确认对方身份。
AI驱动的语音克隆诈骗如何运作
AI语音克隆技术可以通过分析公开可用的语音样本（如播客、录音采访等）来生成逼真的语音片段。犯罪分子利用这些技术创建令人信服的亲属声音，进而实施欺诈。虽然普通人被克隆的可能性较小，但公众人物或经常在媒体上露面的人更容易成为目标。
其他AI欺诈手段
除了语音克隆，FBI还警告称，犯罪分子还可能使用AI模型生成以下内容：
- 虚假个人资料照片：通过深度伪造技术生成看似真实的个人照片。
- 伪造的身份证明文件：AI可以生成看似合法的身份证明文件，用于身份盗窃或其他欺诈行为。
- 嵌入欺诈网站的聊天机器人：AI驱动的聊天机器人可以自动化欺骗内容的创建，减少人类参与的痕迹，使诈骗更加难以察觉。
保护个人隐私的建议
为了降低被AI克隆的风险，FBI建议采取以下措施：
- 限制语音录音和在线图像的公开访问：将社交媒体账户设为私密，并将关注者限制为已知联系人。
- 谨慎分享个人信息：避免在公共平台上发布过多的个人音频或视频内容，尤其是那些可能被用于训练AI模型的高质量录音。
秘密词语的起源与发展
秘密词语的概念并非全新的，但在AI语音合成和深度伪造技术兴起的背景下，这一古老的身份验证方法再次受到关注。2023年3月27日，AI开发者Asara Near在Twitter上首次提出了使用“人类证明”词语的想法，旨在帮助人们区分真实的人类与AI生成的克隆版本。此后，这一想法在AI研究社区中迅速传播，并得到了广泛认可。
尽管AI技术带来了许多便利，但也带来了新的安全挑战。通过创建秘密词语、保持警惕和保护个人隐私，我们可以更好地防范AI驱动的语音克隆和其他形式的欺诈。在这个高科技时代，古老的验证方法依然具有重要的现实意义。
0条评论