今年5月，OpenAI 推出了其最先进的多模态人工智能模型 GPT-4o。这款模型相比 GPT-4 Turbo 运行速度更快，成本更低，并且在视觉处理能力方面有显著提升。今天，OpenAI 正式公开了 GPT-4o 的系统介绍卡，同时还发布了准备就绪框架评分卡，用于全面评估 GPT-4o 的安全性，并详细说明了模型的功能、局限性以及在多个方面的安全评估结果。
安全评估与缓解措施
- 基础评估：在对 GPT-4 和 GPT-4V 进行安全评估和采取缓解措施的基础上，OpenAI 针对 GPT-4o 的音频功能进行了更深入的安全研究。
- 评估风险：包括声音识别、未经授权的声音合成、可能产生的版权内容、无根据的推断以及禁止的内容。
- 安全防护：根据评估结果，OpenAI 在模型和系统层面都采取了相应的安全防护措施。
准备就绪框架评分
- GPT-4o 在准备就绪框架的四个类别中有三个得分较低，仅在说服能力上获得了中等评分。
- 根据 OpenAI 的准备就绪框架，只有评分为“中等”或更低的模型才能被部署，只有评分为“高”或更低的模型才能继续开发。
外部测试
- OpenAI 与超过 100 名外部专业测试团队合作，在向公众发布模型之前对其进行了评估。
- 这些专业测试团队负责探索模型的能力，评估可能带来的新风险，并测试已采取的缓解措施的有效性。
开发者声明
OpenAI 团队在 GPT-4o 系统介绍卡中表示：“OpenAI 在 GPT-4o 的开发和部署过程中采取了多种安全措施和缓解策略。作为我们迭代部署流程的一部分，我们将继续根据形势的变化监控并更新这些措施。”OpenAI 发布模型的系统介绍卡展现了其对负责任的人工智能开发的承诺，确保人工智能的安全和普及。
0条评论