这篇论文探讨了如何在生成性语言模型（Generative Language Models，简称GLMs）中为用户提供算法追索（algorithmic recourse）的机制。所谓算法追索，指的是用户能够对模型的预测或输出进行改变的能力。在GLMs中，这通常涉及到对生成的文本进行毒性过滤，以确保输出内容不会冒犯或伤害用户。然而，这种过滤可能会导致一些重要信息被屏蔽，固化或“价值锁定”文化规范，并阻碍语言回收过程，尤其是对于边缘化群体。
例如，如果一个用户在使用GLMs进行搜索时，模型生成的回答因为包含可能的侮辱性语言而被过滤掉，用户可以通过这种追索机制来决定他们是否想要查看这个回答，或者在未来的交互中是否希望模型生成包含这类语言的内容。这样，用户就可以根据自己的需求和偏好来调整模型的输出，而不是被固定的毒性过滤标准所限制。
主要功能和特点：
- 动态毒性阈值设置： 用户可以动态设置毒性过滤的阈值，从而根据自己的偏好决定哪些内容是可以接受的。
- 增加用户代理权： 通过这种机制，用户在与GLMs的互动中拥有更多的控制权。
- 改善可用性： 通过一个试点研究，作者发现这种追索机制相比固定阈值的毒性过滤能够提高GLMs的可用性。
工作原理： 研究者提出了一个反馈机制，允许用户对被标记为有毒的内容进行预览，并决定是否希望未来的内容自动跳过这些过滤器。如果用户选择查看被标记的内容，他们可以决定是否希望未来的模型输出包含这些内容，从而个性化他们的毒性阈值。
具体应用场景：
- 客户服务： 在客户服务中，GLMs可以生成响应，但可能包含敏感或不适当的内容。通过算法追索，客户可以选择是否接受这些内容。
- 内容生成： 在创作内容时，作者可能希望对生成的文本进行个性化的毒性过滤，以确保内容符合他们的观点和价值观。
- 教育和信息检索： 在教育场景中，学生或研究人员可能希望访问包含特定术语的信息，即使这些术语可能被毒性评分系统标记为不适当。
0条评论