PyRIT

优惠 微软开源生成式AI风险识别工具PyRIT,用于帮助安全专业人士和机器学习工程师识别生成式AI系统的风险

  • 微软开源生成式AI风险识别工具PyRIT,用于帮助安全专业人士和机器学习工程师识别生成式AI系统的风险
    AI
  • 微软2月22日发布了一款开源自动化框架PyRIT,这是一款Python风险识别工具包,用于帮助安全专业人士和机器学习工程师识别生成式AI系统的风险。微软的AI红队已使用该工具检查包括Copilot在内生成式AI系统中风险。PyRIT 框架的工作原理是:PyRit Agent向目标生成式AI系统发送恶意提示词,在收到生成... 阅读全文