跳到正文
热点事件持续更新

Anthropic实验:专家采纳AI随机立场并当成己见

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Anthropic公布的一项实验发现,因果推断专家在无明确对错的分析决策中,会采纳AI代理由抛硬币随机设定的立场,并多把最终建议当成自己的判断。实验让50名专家完成真实分析任务,在四项决策点上随机指定代理立场,最高86%的情况下专家采纳了该立场;代理不能撒谎或隐瞒数据,只能为被指定一方提出最有力的诚实论据。 事后52%的参与者认为最终建议更像出自本人,77%在解释中至少沿用代理一条论据,仅15%提到用过AI。研究称样本仅50人,检测此类效应的统计功效有限。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. The Decoder
    Anthropic 研究发现专家采纳 AI 智能体随机立场并多以为是自身判断

    Anthropic 对 50 名因果推断专家的实验发现,专家在四项分析决策中最高 86% 采纳了智能体由抛硬币设定的立场。事后 52% 的参与者认为最终建议更像出自本人,77% 在解释中至少沿用智能体一条论据,仅 15% 提到用过 AI。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。