Midjourney 是一家领先的生成式AI平台，以其强大的图像生成能力而闻名。近日，Midjourney CEO David Holtz 宣布，公司计划在“下周初”发布一个升级的网络工具，允许用户使用Midjourney的生成式AI编辑从网络上上传的任何图像。这个工具将提供重新纹理图像中物体的功能，并根据字幕“重绘”它们的颜色和细节。
功能亮点
-
图像编辑：用户可以使用Midjourney的生成式AI编辑从网络上上传的任何图像。 -
重新纹理：工具允许用户重新纹理图像中的物体，改变其颜色和细节。 -
字幕重绘：用户可以根据字幕对图像进行重新绘制。
行业背景
使用AI编辑现有图像最近成为一个热点话题。各大科技公司如Meta和Google都在探索如何标记和管理这些图像。Meta一直在努力如何标记使用AI工具编辑的图像与从头开始使用AI模型生成的图像，而Google已经发布了强大的AI功能，但这些功能缺乏视觉指示，表明图像已被AI修改。
Midjourney 的元数据标准
去年，Midjourney承诺使用IPTC的数字源类型属性，这是一个嵌入图像中表示它们是AI生成的元数据技术标准。然而，Midjourney是少数几个没有采用C2PA的主要AI平台之一，C2PA是一种追踪图像完整来源的元数据技术，包括用于创建它的设备和软件。
部署计划和社区反馈
在Midjourney官方Discord服务器上的一篇帖子中，Holtz表示，升级的图像工具将首先限制在“当前社区的一部分”，并增加人工审核以及“新的、更先进的AI审核员”，以防止滥用。Midjourney正在通过一项调查征求社区反馈，这些反馈将用于决定哪些用户首先获得访问权限。
“老实说，我们不确定如何精确限制这项功能的部署，”Holtz说。
风险和挑战
在没有充分保障措施的情况下发布这些类型的编辑工具有风险。它们可能会大规模促进版权侵犯，或促进误导性深度伪造的传播。深度伪造在社交媒体上迅速蔓延，使得区分真相和虚假信息变得更加困难。最近，在飓风Helene过后，虚假的生成式AI图像充斥着破坏和人类苦难的网络。
根据深度伪造检测公司Clarity的数据，与去年同期相比，今年创建和发布的深度伪造数量增加了900%。这引起了人们的警觉，这是可以理解的。YouGov最近的一项调查发现，85%的美国人担心误导性深度伪造在网上传播。
法律监管
在美国联邦层面缺乏禁止深度伪造的法律的情况下，超过10个州已经制定了反对AI辅助冒充的法规。加州的法律——目前停滞不前——将是第一个授权法官命令深度伪造的发布者将其删除或可能面临金钱处罚的法律。
Midjourney 的责任和措施
Midjourney并不是负责任AI部署的典范。例如，它因涉嫌使用受版权保护的内容来训练其生成式AI模型而被起诉。然而，在最近几个月，该平台已经采取措施限制深度伪造的传播，包括在美国总统选举前对政治人物的过滤。
0条评论