OpenAI 考虑允许其聊天机器人 ChatGPT 和文本图像服务 DALL-E 的用户生成成人内容。OpenAI 称它考虑允许开发者和用户“负责任的”通过其产品创造 NSFW 内容，这将包括色情、极端血腥和脏话。OpenAI 是在最新公布的 Model Spec 文件中披露与 NSFW 内容相关的新讨论。起草文件的 OpenAI 员工 Joanne Jang 强度，深度伪造仍然是被禁止的。
深度伪造技术：禁令依旧
OpenAI 明确表示，尽管正在探索新的可能性，但对“深度伪造”（deepfakes）技术的禁令将继续保持，尤其是针对成人内容。尽管如此，一些活动人士担心，这一探索可能会与其“创造安全有益的 AI”的宗旨相违背。
NSFW 内容：OpenAI 的新考量
作为 DALL-E 图像生成器的创造者，OpenAI 正在考虑是否允许用户和开发者通过其产品“负责任地”创造“工作场合不宜”（NSFW）内容，这可能包括色情、极端暴力、侮辱性语言和不恰当的粗话。
该公司在一份文件中提出：“我们正在探讨是否可以在合适的年龄背景下，负责任地提供生成 NSFW 内容的功能……我们期待更深入地了解用户和社会对模型行为在这一领域的期望。”
开放讨论：AI 与色情内容
在旧金山工作的 OpenAI 员工 Joanne Jang，参与了这份文件的编写，她向美国国家公共广播电台（NPR）透露，公司希望就此问题展开讨论：是否应该在其产品中始终禁止生成色情文本和裸体图像。但她同时强调，深度伪造技术是不被允许的。
Jang 表示：“我们希望确保用户在不违法或侵犯他人权利的前提下，拥有尽可能多的控制权。但这并不意味着我们现在正尝试创造 AI 色情产品。”
创造性与年龄适宜性
Jang 还提到，存在一些创造性案例，其中包含性或裸体内容对用户来说很重要，但这些内容的探索将在“合适的年龄背景下”进行。
保护与责任
OpenAI 的一位发言人在声明中明确表示，公司没有意图制作 AI 生成的色情内容，并强调产品中有强有力的保护措施来防止不可接受的深度伪造技术。发言人还提到，公司优先保护儿童，并认为在合适的年龄背景下，仔细探索关于性的对话是重要的。
0条评论