美国加利福尼亚州州长加文·纽森（Gavin Newsom） 正在考虑 38 项与人工智能 (AI) 相关的法案，包括备受争议的 SB 1047 法案，州立法机构已将其送交他最终批准。这些法案试图解决人工智能领域最紧迫的问题：从可能带来生存风险的未来 AI 系统，到 AI 图像生成器制造的深度伪造裸照，再到好莱坞工作室创造已故表演者的 AI 克隆。
州长 加文·纽森的办公室在新闻发布会上表示：“作为世界上大多数领先 AI 公司的所在地，加利福尼亚正在努力利用这些变革性技术来帮助解决紧迫挑战，同时研究它们所带来的风险。”
到目前为止，州长 加文·纽森 已经将其中九项签署成为法律，其中一些是美国迄今为止最深远的 AI 法律。
AI 机器人电话
上周五，州长 加文·纽森签署了一项法案，要求机器人电话披露是否使用了 AI 生成的声音。AB 2905 旨在防止再次出现类似今年早些时候新罕布什尔州选民感到困惑的、模仿乔·拜登声音的深度伪造机器人电话。
深度伪造裸照
加文·纽森在周四签署了两项法案，解决了 AI 制造的深度伪造裸照的制作和传播问题。SB 926 将这种行为定为犯罪，使其成为非法行为，用 AI 生成的裸照来勒索某人。
SB 981 也在周四成为法律，要求社交媒体平台建立渠道供用户报告看起来像他们的深度伪造裸照。内容必须在平台调查时暂时封锁，并在确认后永久删除。
水印
同样在周四，加文·纽森 签署了一项法案，帮助公众识别 AI 生成的内容。SB 942 要求广泛使用的生成性 AI 系统在其内容的出处数据中披露它们是 AI 生成的。例如，由 OpenAI 的 Dall-E 创建的所有图像现在需要在它们的元数据中有一个小标签，说明它们是 AI 生成的。
许多 AI 公司已经在这样做了，而且市面上有几种免费工具可以帮助人们读取这些出处数据并检测 AI 生成的内容。
选举深度伪造
本周早些时候，加利福尼亚州州长签署了三项法案，打击可能影响选举的 AI 深度伪造。
加利福尼亚州的新法律之一，AB 2655，要求像 Facebook 和 X 这样的大型在线平台移除或标记与选举有关的 AI 深度伪造，并创建报告此类内容的渠道。候选人和当选官员如果大型在线平台不遵守该法案，可以寻求禁令救济。
另一项法律，AB 2839，针对在社交媒体上发布或转发可能欺骗选民关于即将到来的选举的 AI 深度伪造的用户。该法律于周二立即生效，加文·纽森 暗示埃隆·马斯克可能会违反它。
根据加利福尼亚州的新法律，AB 2355，AI 生成的政治广告现在需要完全披露。这意味着从现在开始，特朗普可能无法在 Truth Social 上发布 AI 深度伪造的泰勒·斯威夫特支持他的帖子（她支持了卡马拉·哈里斯）。FCC 已经提出了类似的全国性披露要求，并且已经将使用 AI 生成的声音的机器人电话定为非法。
演员和 AI
加文·纽森周二签署的两项法律——全国最大的电影和广播演员工会 SAG-AFTRA 一直在推动——为加利福尼亚州的媒体行业创造了新的标准。AB 2602 要求工作室在创建演员的声音或形象的 AI 复制品之前获得他们的许可。
与此同时，AB 1836 禁止工作室在未经其遗产同意的情况下创建已故表演者的数字复制品（例如，在最近的 “Alien” 和 “Star Wars” 电影以及其他电影中使用了法律许可的复制品）。
还有什么？
州长 加文·纽森在九月底之前还有 29 项与 AI 相关的法案需要决定。在周二的 2024 Dreamforce 会议上与 Salesforce CEO Marc Benioff 聊天时，加文·纽森可能已经透露了关于 SB 1047 的信息，以及他是如何更广泛地考虑规范 AI 行业的。
“有一项法案在公共话语和意识中有点突出，那就是 SB 1047，”加文·纽森 周二在台上说。“AI 的可证明风险是什么，假设风险是什么？我不能解决所有问题。我们能解决什么？这就是我们在这个问题上的全面方法。”（来源）
0条评论