27岁的休·纳尔逊来自博尔顿，他因利用人工智能技术制作儿童性虐待图像而被判处18年监禁。这是英国首例涉及深度伪造（deepfakes）的重大起诉。纳尔逊承认了16项儿童性虐待罪行，其中包括使用美国软件供应商Daz 3D的AI工具将普通儿童照片转化为性虐待材料。他还承认鼓励他人对儿童实施性犯罪。在博尔顿皇家法院，法官马丁·沃尔什对纳尔逊判处了延长刑期，称他给公众带来了“重大风险”。这意味着纳尔逊在完成三分之二的刑期之前将没有资格获得假释。
AI技术的影响
AI技术的进步使得假图像变得更加逼真和易于创建，专家警告称，计算机生成的儿童不雅图像数量正在增加。皇家检察署组织儿童性虐待部门的检察官珍妮特·史密斯表示，纳尔逊的案件为如何起诉计算机生成的图像和不雅及露骨的深度伪造设定了新的先例。
“这个案件是同类案件中的首例，但随着技术的进步，我们预计会看到更多类似案件，”史密斯说。
调查细节
大曼彻斯特警方在纳尔逊的设备上发现了真实的儿童图像和计算机生成的儿童性虐待图像，这些设备于去年6月被查获。计算机生成的图像并不完全像真实照片，但可以被归类为“不雅照片”，而不是通常刑罚较轻的“禁止图像”。史密斯表示，这是可能的，因为调查人员能够证明这些图像是基于发送给纳尔逊的真实儿童图像生成的。
纳尔逊在8月承认制作并销售根据客户特定要求定制的儿童性虐待图像。他使用客户提交的真实照片生成了儿童的数字模型。警方还表示，他进一步在网上免费和付费分发了他制作的图像。
社会影响和技术挑战
与此同时，科技行业和监管机构正在努力应对生成式AI的深远社会影响。谷歌、Meta和X等公司一直在争相处理其平台上的深度伪造问题。英国国家犯罪局局长格雷姆·比格去年警告称，已经开始看到由AI生成的超逼真儿童性虐待图像和视频。
他补充说，无论是真实的还是计算机生成的，观看这种材料“实质上增加了犯罪者自己对儿童进行性虐待的风险”。
大曼彻斯特警方的专业在线儿童虐待调查团队表示，计算机生成的图像已成为他们调查中的常见特征。探长卡莉·贝恩斯在纳尔逊8月认罪时表示：“这个案件是对立法的真正考验，因为以这种方式使用计算机程序对这种犯罪来说是全新的，并且在当前的英国法律中没有特别提及。”
法律和行业应对
去年10月通过的英国《在线安全法》规定，传播未经同意的色情深度伪造是非法的。但纳尔逊是根据现有的儿童虐待法被起诉的。史密斯表示，随着AI图像生成技术的改进，区分不同类型的图像将变得越来越具有挑战性。“照片和计算机生成图像之间的界限将变得模糊，”她说。
行业责任
创建纳尔逊使用的软件的公司Daz 3D表示，其用户许可协议“禁止用于创建违反儿童色情或儿童性剥削法律的图像，或其他对未成年人有害的图像”，并表示“致力于不断改进”其防止软件被用于此类目的的能力。
0条评论