prism-alignment 是一个由 HannahRoseKirk 创建的数据集，专注于研究大型语言模型（LLMs）的偏好和价值观对齐问题。数据集通过调查问卷和与语言模型的多轮对话，收集了来自不同国家和文化背景的参与者对模型回答的评分和反馈。这些数据对于理解和改进人工智能的价值观对齐至关重要。