Claude AI 的行为因模型和语言而异,Anthropic 的研究显示
Anthropic 于周一发布了研究,分析其 AI 助手 Claude 如何在用户选择的不同模型版本以及用户使用的交流语言中表达不同价值观。该公司审查了 309,815 份去标识化的用户对话,涉及提供建议或反馈等主观任务。Anthropic 将 3,300 多项已识别的价值观提炼为四个行为维度,用于衡量 Claude 的回答在不同对话中的差异。该研究旨在理解 AI 系统中的行为差异,作为 Anthropic 持续研究 Claude 内部行为的一部分。 Anthropic 为何要分析 309,815 份对话以描绘 Claude 行为 Anthropic 研究人员分析了 309,815 份与 Claude 进行主观任务相关的去标识化用户对话。该公司表示,它将 3,300 多项已识别的价值观归纳为四个行为维度:谦逊 vs. 谨慎、温暖 vs. 严谨、深度 vs. 简洁、坦率 vs. 执行。这些维度描述了 Claude 的回答在每次对话中的差异。 研究人员写道,他们针对每次对话的任务、主题以及用户表达的价值观进行了控制,以衡量 Claude 表达的价值观,而不是衡量用户提出了什么或如何提出问题
Oliver Grant·07-13 20:42
