在一系列新的实验中,人工智能(a.I.)算法能够影响人们对虚构的政治候选人或潜在的浪漫伴侣的偏好,这取决于推荐是明确的还是隐蔽的。2021年4月21日,西班牙毕尔巴鄂Deusto大学的UjuéAgudo和Helena Matute将这些发现发表在《公共科学图书馆综合》(pLOS ONE)开放获取期刊上。

从Facebook到谷歌搜索结果,许多人每天都会遇到人工智能算法。私营公司正在对其用户的数据进行广泛的研究,以获得对人类行为的洞察,而这些洞察并不公开。学术社会科学研究落后于私人研究,公众对人工智能算法如何影响人们的决策缺乏了解。

为了阐明新的观点,Agudo和Matute进行了一系列实验,测试人工智能算法在不同背景下的影响。他们招募参与者与展示虚拟政治候选人或在线约会候选人照片的算法进行互动,并要求参与者指出他们将投票给谁或给谁留言。这些算法促进了一些候选人胜过其他候选人,要么是明确的(例如,“90%的兼容性”),要么是隐蔽的,比如比其他人更频繁地展示他们的照片。

总体而言,实验表明,这些算法对参与者决定投票给谁或给谁留言有重大影响。对于政治决策而言,显性操纵显著影响决策,而隐性操纵则无效。研究人员推测,这些结果可能反映了人们在约会等主观问题上对人类明确建议的偏好,而对于理性的政治决策,人们可能更喜欢算法建议对于那些寻求提高人工智能可信性的计划,例如欧盟委员会的可信性人工智能道德准则和DARpA的可解释人工智能(XAI)计划。不过,他们警告说,需要更多公开的研究来了解人类对算法的脆弱性。

与此同时,研究人员呼吁努力教育公众对算法推荐的盲目信任的风险。他们还强调了围绕驱动这些算法的数据所有权进行讨论的必要性。

作者补充说:“如果像我们这样一个虚构的、过于简单的算法能够达到这样的说服水平,而不需要建立参与者的实际定制档案(在所有情况下都使用相同的照片),一个更复杂的算法,比如人们在日常生活中与之互动的算法,肯定能够产生更大的影响。”

Journal Reference:

Ujué Agudo, Helena Matute. The influence of algorithms on political and dating decisions. pLOS ONE, 2021; 16 (4): e0249454 DOI: 10.1371/journal.pone.0249454


pLOS. "AI algorithms can influence people's voting and dating decisions in experiments: Researchers highlight need for public education on impact of algorithms." ScienceDaily. ScienceDaily, 21 April 2021. <www.sciencedaily.com/releases/2021/04/210421151226.htm>.

pLOS. (2021, April 21). AI algorithms can influence people's voting and dating decisions in experiments: Researchers highlight need for public education on impact of algorithms. ScienceDaily. Retrieved April 21, 2021 from www.sciencedaily.com/releases/2021/04/210421151226.htm

pLOS. "AI algorithms can influence people's voting and dating decisions in experiments: Researchers highlight need for public education on impact of algorithms." ScienceDaily. www.sciencedaily.com/releases/2021/04/210421151226.htm (accessed April 21, 2021).