最近,两位哈佛大学的学生创造了一个令人不安的演示项目,名为I-XRAY。该项目展示了智能眼镜如何利用面部识别技术即时泄露行人的个人信息,包括姓名、电话号码乃至住址。更让人不安的是,这项演示使用了目前市场上唾手可得的技术,如雷朋Meta智能眼镜和公共数据库。
I-XRAY的工作原理
AnhPhu Nguyen,其中一位项目参与者,在网络上分享了一段视频,演示了I-XRAY的运作方式。该技术利用Meta智能眼镜将视频流式传输到Instagram,之后通过一个计算机程序监视视频流,并使用AI算法来识别面部特征。这些面部图像随即被输入公共数据库中查找个人信息。最终,这些数据通过一个应用程序反馈给用户。
项目的实现过程
在一份详细的Google文档中,AnhPhu Nguyen和另一位学生Caine Ardayfio解释了他们是如何将一副Meta Ray Bans 2眼镜与名为PimEyes的面部搜索引擎相连,以帮助通过在各种人物搜索数据库中交叉搜索他们的信息来识别陌生人。然后,他们使用一个大语言模型(LLM)来快速整合所有这些数据,使得只需一眼就能泄露某人的信息,或者在几秒钟内就能获取信息进行诈骗——或者其他恶意用途,例如“某个家伙可以在火车上找到某个女孩的家庭地址,然后跟踪她回家,”。
演示中,他们不仅成功识别了身边同学的身份信息,也许更令人不寒而栗的是,Nguyen 和 Ardayfio 还展示在公共交通场合,仅凭一瞥便掌握了陌生人的背景资料,并利用这些信息假装成他们的熟人。
隐私风险与伦理考量
面部识别技术本身已经非常精准,而I-XRAY所做的则是将一系列现有的技术串联起来。这项演示的创新之处在于,它将这些技术整合到了一个隐蔽且容易获取的消费级设备上。
它部分依赖于 PimEyes,《纽约时报》在 2022 年将其描述为“令人震惊的准确”的面部搜索引擎,任何人都可以使用。此前,Clearview AI曾因使用面部识别技术协助美国警察执法而引起广泛关注,这令人担忧有几个原因:因为 Clearview 的目标是将几乎每个人纳入他们的面部识别数据库,警察已经未经授权不道德地使用该工具进行个人搜索,Clearview 已经因隐私违规被罚款 3300 万美元。
应对措施
尽管这项技术带来了一系列隐私问题,但目前仍有一些方法可以用来应对这种新型威胁。Nguyen和Ardayfio在其文档中提供了从PimEyes和Facecheck ID等面部搜索引擎以及FastPeopleSearch、CheckThem和Instant Checkmate等人物搜索数据库中删除个人信息的步骤。此外,他们还提供了一个联系表单,供人们询问相关问题。
项目的初衷与目标
项目初衷并非制造混乱。“我们无意放任此工具滥用,绝无发布计划。”两人在文档中郑重声明。他们的愿景是唤醒大众对当下技术真实面目的认知——这并非科幻电影中的臆想场景,而是基于现有技术即可达成的事实。尤其值得关注的是,I-XRAY背后的大语言模型(LLMs)实现了自动化操作,让姓名与图片间的关联变得简单粗暴。
智能眼镜的隐私隐患
智能眼镜一直以来都是隐私讨论的焦点。早些时候,Google Glass因为其可能侵犯隐私的设计而受到批评。然而,随着智能手机、视频博主和TikTok的普及,人们逐渐接受了自己随时可能被拍摄的事实。但是,现代智能眼镜的问题在于其外观与普通眼镜无异,这使得佩戴者在记录他人时变得更加隐秘。
雷朋Meta智能眼镜外观普通,不易引起他人注意,加之户外光线干扰下隐私指示灯难以辨认,这让佩戴者的意图更难以捉摸。尽管Meta强调了隐私政策,并呼吁用户避免成为“玻璃混蛋”,但在人群熙攘之地,仍有人无视规范。对此,Meta官方回应重申了相同立场。
最近TechCrunch爆料,Meta承认其雷朋智能眼镜上拍摄的照片和视频,一旦通过Meta AI功能提交分析,就可能被用来训练AI模型。这意味着每次你用眼镜记录下的瞬间,无论是家里的布局还是亲友的面容,都有可能成为Meta打造更强大AI的数据源。
虽然Meta声称在用户界面上明确了这一点,但不少用户可能并未注意到或理解这一条款。尤其随着Meta新推出的AI功能,让用户更方便地与AI互动,也就意味着更多的个人数据流入Meta的数据库。
结论
在欧洲,GDPR框架下,此类采集面部数据的行为需征得当事人同意,故而I-XRAY可能对追求公共场所匿名性的民众影响有限。而在美国,情况则截然不同,I-XRAY或许将成为犯罪分子的新工具。
这场演示不仅是对智能眼镜潜在风险的警示,也提示我们应该采取行动自我保护。Nguyen与Ardafiyo列举了一系列反向搜索和人物搜索数据库的选择退出选项。不过,彻底消除线上痕迹几乎是天方夜谭,我们唯有设法增加信息获取难度。
0条评论