北京大学智能科学与技术学院通用人工智能国家重点实验室、北京大学软件与微电子学院、北京大学社会学系、北京大学心理与认知科学学院和北大武汉人工智能研究院的研究人员推出GPV，利用大语言模型（LLM）来测量人类和人工智能（AI）的价值观。简单来说，研究者们希望通过一种新方法，称为“生成心理测量”（Generative Psychometrics for Values，简称GPV），来更准确地理解和评估人类和AI的价值观。在我们的日常生活中，价值观影响着我们的决策和行为。例如，一个人可能非常重视“平等”，因此在工作中会努力确保每个人都有相同的机会。而在AI的应用中，了解AI的价值观也同样重要，因为这可以帮助我们确保它们的行为与人类的伦理标准相符。
- GitHub：https://github.com/value4ai/gpv
主要功能
GPV的主要功能是：
- 测量人类的价值观：通过分析人们的文本（如博客、社交媒体等），GPV可以提取出他们的价值观。
- 测量AI的价值观：通过对AI生成的文本进行分析，GPV可以评估AI的价值观和行为倾向。
主要特点
- 数据驱动：GPV不依赖传统的问卷调查，而是通过分析大量文本数据来推断价值观。
- 灵活性：它能够适应不同的价值观体系，不会被固定的问卷限制。
- 自动化：GPV可以自动生成测量项目，减少了人工干预的需要。
工作原理
GPV的工作原理主要包括以下几个步骤：
- 文本解析：首先，系统将输入的文本分解成小段落，并提取出其中的“感知”（即反映价值观的具体表达）。
- 价值测量：接着，使用经过微调的语言模型（如Llama 3）来判断这些感知与特定价值观的相关性和支持程度。
- 结果聚合：最后，将所有的感知结果汇总，得出一个关于个体或AI的整体价值观评分。
具体应用场景
- 心理学研究：心理学家可以使用GPV来研究人类的价值观变化，特别是在不同文化或社会背景下。
- AI安全性评估：在开发和部署AI时，GPV可以帮助开发者了解AI的价值观，从而确保其行为符合伦理标准。
- 市场研究：企业可以利用GPV分析消费者的价值观，以更好地调整产品和营销策略。
总之，GPV为理解和测量人类及AI的价值观提供了一种新颖而有效的工具，具有广泛的应用潜力。
0条评论