Anthropic实验:专家采纳AI随机立场并当成己见
热点事件持续更新
Anthropic实验:专家采纳AI随机立场并当成己见
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Anthropic公布的一项实验发现,因果推断专家在无明确对错的分析决策中,会采纳AI代理由抛硬币随机设定的立场,并多把最终建议当成自己的判断。实验让50名专家完成真实分析任务,在四项决策点上随机指定代理立场,最高86%的情况下专家采纳了该立场;代理不能撒谎或隐瞒数据,只能为被指定一方提出最有力的诚实论据。 事后52%的参与者认为最终建议更像出自本人,77%在解释中至少沿用代理一条论据,仅15%提到用过AI。研究称样本仅50人,检测此类效应的统计功效有限。
AI 根据报道生成 · 2 小时前更新
最新进展10月30日 03:33
Anthropic 研究发现专家采纳 AI 智能体随机立场并多以为是自身判断报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- The DecoderAnthropic 研究发现专家采纳 AI 智能体随机立场并多以为是自身判断
Anthropic 对 50 名因果推断专家的实验发现,专家在四项分析决策中最高 86% 采纳了智能体由抛硬币设定的立场。事后 52% 的参与者认为最终建议更像出自本人,77% 在解释中至少沿用智能体一条论据,仅 15% 提到用过 AI。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。