深圳商报·读创客户端首席记者魏沛娜
什么是循环?
据了解,《循环:AI如何影响人类,人类如何应对AI》这本书提到三个循环:第一个循环也是最核心的循环,即世代沿袭的人类本能。人类天生具有偏见,而且更倾向于使用大脑的系统1行事,在这个过程中,人类原有的偏见进一步被强化,形成第一个循环。
第二个循环是来自现代的力量,如消费类技术、资本主义、营销和政治,它们对核心循环的人类行为进行采样,总结出模式,再将这些模式反作用于人类,最终引发了一系列问题。
《循环:AI如何影响人类,人类如何应对AI》
[美]雅各布·沃德 著
毛敏 译
中国出版集团中译出版社
2024年3月
第三个循环,即本书书名所指的循环,是来自人工智能的影响。AI对人类偏见进行采样,总结出规律,最后把这些规律反作用于人类,形成第三个循环。AI正在改变我们所熟悉的世界,它每天都在制造新的风险。不过真正的危险不在于机器,而是我们的大脑。我们已经习惯于利用捷径、偏见和不透明的程序做出决策。正如金融利用了人类思维的弱点一样,AI也将利用我们的生活模式,以不可抗拒和无形的方式操纵我们。在书中,美国《大众科学》杂志原主编雅各布·沃德揭示了我们是如何将这些习惯融入决策技术中,这些决策如何影响我们,我们又该如何应对。
对于本书,北京智源人工智能研究院院长黄铁军如此评价:“人工智能目前在我们的生活中扮演并将持续多年的角色将会加速发展。但是人工智能是什么?它真的会使我们陷入困境吗?作者雅各布·沃德结合长达十年的人工智能和行为科学前沿研究,警告我们人工智能即将放大我们最原始的一面,并利用算法推荐和模式识别技术使我们陷入一个‘选择越来越少’的循环。随着科技行业开始将有缺陷的人类习惯写入人工智能,本书呼吁我们要更加清醒地审视自己。”