苏黎世大学的研究人员被指控在未经授权的情况下，在一个Reddit版块上进行了为期四个月的AI实验。
苏黎世大学的研究人员被指控在未经授权的情况下，在一个Reddit版块上进行了为期四个月的AI实验，利用人工智能生成的评论来测试AI是否能改变人们的观点。这一事件引发了广泛的关注和讨论。
AI驱动的账户伪造多种人物形象
作为实验的一部分，AI驱动的账户伪造了多种人物形象，包括强奸受害者、反对特定社会运动的人士以及专门处理虐待问题的创伤顾问。r/changemyview子版块的版主在4月26日的帖子中表示：“我们的子版块是一个明确拒绝未公开AI作为核心价值观的人类空间。”
个性化回复与实验结果
研究人员使用AI生成回复，但试图根据原始发帖人之前的Reddit历史信息（如政治倾向、性别、年龄和种族）来个性化这些回复。在为期四个月的实验中，苏黎世大学的虚假AI账户发布了1,783条评论，并获得了137个delta——这是一个标志，表明另一个Reddit用户承认该账户说服他们改变了对某个问题的看法。
研究人员的辩护与伦理问题
研究人员表示，所有评论在发布前都经过手动审核，以确保它们符合社区准则，并“最小化潜在危害”。他们认为，“这项研究的潜在益处大大超过了其风险”，因为实验中使用的大型语言模型可以非常有说服力。然而，这一行为引发了关于研究伦理的广泛讨论。
Reddit的反应与法律选项
Reddit版块的版主表示对实验不知情，并要求大学道歉并阻止研究的发表。Reddit可能还在考虑法律行动，因为平台的首席法律官Ben Lee表示实验违反了网站的用户协议和规则。所有已知与苏黎世大学研究努力相关的账户现已被封禁。
结论：区分人类与AI的挑战
这一事件不仅揭示了区分人类与AI的重大挑战，也引发了对未来类似研究伦理规范的深入思考。随着AI技术的快速发展，如何在确保创新的同时保护用户权益成为了一个亟待解决的问题。
阅读原文
Cointelegraph: Zurich Uni’s secret AI experiment manipulated Redditors’ opinions
The University of Zurich’s Faculty of Arts and Sciences Ethics Commission said it had investigated the incident and promised to coordinate better with test subjects in the future.
相关词条
- AI驱动的账户: 指由人工智能技术控制的在线账户，能够自动生成内容或进行互动，模拟人类用户行为。
- 大型语言模型: 一种高级的人工智能技术，能够理解和生成人类语言，用于各种语言处理任务。
- 区分人类与AI: 指在在线互动中识别出参与者是人类还是人工智能的挑战，随着AI技术的发展变得越来越困难。
- Reddit用户协议: Reddit平台规定的使用条款，用户在使用服务前必须同意遵守的规则和条件。
- 苏黎世大学艺术与科学学院伦理委员会: 苏黎世大学内部负责审查和监督研究项目伦理合规性的机构。
可能问题
- AI在未经授权的情况下操控社交媒体用户观点的伦理边界在哪里？
- 大型语言模型(LLMs)如何超越人类的说服力基准，这对社会有什么潜在影响？
- 为什么区分人类与AI生成的评论仍然是一个重大挑战？
- Reddit和其他社交媒体平台应如何防止未经授权的AI实验？
- 苏黎世大学的这次实验对未来AI研究和应用的伦理审查流程有何启示？
