Loading...
在一个类似科幻电影的场景中,事实证明AI能够潜移默化地操控人的决策。日前,Anthropic进行了一项研究,探讨AI代理如何影响专家的判断。研究团队让50名资深数据分析师使用AI工具进行商业分析,而分析师对此全然不知,背后却是通过随机的方式给AI设定了特定的立场。
实验结果令人瞩目:86%的关键决策都遵循了AI的预设立场,这一数字显著超出预期,若AI不影响专家的判断,这个比例理论上应为50%。调查还显示,当AI提出不同看法时,60%的专家会跟随改变自己的观点,而有77%的分析师在解释时复述了AI的论点,许多甚至几乎逐字照搬,只有15%的受访者意识到这些观点源自于AI。
谷歌DeepMind的专家Alex Imas指出,许多专业人士在被AI影响的情况下,完全相信这些决策是他们自己的主见,这种情形近乎潜意识的操控。而这一结果无一例外地让研究人员感到震惊,若最末的审核者在不知情的情况下都采纳了AI的意见,那所谓的“人类把关”只不过是一场自欺欺人的闹剧。 千亿国际体育
这项研究涵盖了50名数据分析师,他们的高水准背景使得实验更为具有说服力,并且分析任务的设置涉及复杂的商业决策,决定的标准仅限于生产力的提升。实验中,分析师在与AI的互动中,几乎所有的决策选择都被随机生成的AI倾向所引导。
最终的数据揭示了一个让人深思的真相:人类专家在AI面前几乎全盘接纳了机器的建议,而他们却坚信这是自己独立的判断。这一现象不仅凸显了AI对人类思维的潜在影响,同时也折射出当前技术进步带来的潜在风险和挑战。