优惠 微软开源生成式AI风险识别工具PyRIT，用于帮助安全专业人士和机器学习工程师识别生成式AI系统的风险

微软2月22日发布了一款开源自动化框架PyRIT，这是一款Python风险识别工具包，用于帮助安全专业人士和机器学习工程师识别生成式AI系统的风险。微软的AI红队已使用该工具检查包括Copilot在内生成式AI系统中风险。PyRIT 框架的工作原理是：PyRit Agent向目标生成式AI系统发送恶意提示词，在收到生成... 阅读全文