有鲲传播辛鑫：AI时代重读康纳曼──这位行为经济学之父，如何洞察AI与人类未来？

纵横网讯  诺贝尔经济学奖得主康纳曼 （Daniel Kahneman） 在今年3月辞世，就多数读者而言，康纳曼是行为经济学之父，是心理学家，也是重要畅销著作《快思慢想》（Thinking, Fast and Slow）与《噪声》（Noise: A Flaw in Human Judgment）的作者。

今日所有我们对人类思维的理解方式，都有康纳曼的影子。

例如，在判断与决策时，人类心智如何运作又为何失灵；面对各种不确定性与思维的不完善性，心智如何产生结论等。这些行为经济学的发展源头，常会追溯至赫伯．赛门（Herbert Simon） 提出的“有限理性”（bounded rationality），有限理性认为人同时间仅能管理认识有限数量的信息，传统理性模型无法处理真实脉络的复杂；我们所谓的理智决策多是在不完整讯息状态下的几个有限选项，在仓促模糊中凭一点经验直觉而做的，此外更带有因人而异的情绪偏见。

大约在1970年代同期，这样的思维几乎同步影响了人工智能、设计、行为科学后来的发展，而赛门也被认为是这3门学科的共同先驱者。

拥抱“人非完人”的非理性设计

罗伯．法布坎（Robert Fabricant）所着的《我们的行为是怎样被设计的》（User Friendly），这本谈使用者设计的书中说，20世纪最伟大却未受重视的知识转变与新典范，正是我们终于发现人的真实样貌不是理想中的样子。

启蒙时代相信人类能完全理性，后来我们逐渐承认人的差异与非理性，并接受人类心智永远不可能完美，这大幅影响了人因工程、人机互动、认知心理学、使用者中心／友善（user-centered, user friendly）设计等学科的演进。就设计而言，生活中的人造物如果不能考量人们的极限、缺点、错误，设计就无法成为被人所使用的状态。而这，也是行为经济学诞生的年代。

在这样的共演化关系中，行为科学的贡献逐渐影响设计的发展进程，对设计思考而言，设计师其实是站在有限理性的假设下，理解所有设计决策都不是穷尽所有可能后的选项，也不是了解特定选项之所有可能结局后的决定。

因此，透过包括康纳曼在内的众多行为经济学家之努力，如他早逝的合作者特沃斯基（Amos Tversky）、晚期的理查．塞勒（Richard Thaler）、罗伯．席勒（Robert Shiller）、凯斯．桑思坦（Cass Sunstein）等人（这里头包含3座诺贝尔经济学奖），我们对人类非理性行为开始有较全面的理解，例如认知偏见、前景理论、捷思、双系统（系统1与系统2）、行为助推、峰终定律（Peak-End Rule）、禀赋效应、选择架构（choice architecture）、框架效应等理论，都成为后来使用者经验研究与设计心理学的坚实基础。

数十年以来，上述这些理论也逐渐发展出设计实务上诸如行为设计、诱因设计，预设用途（affordance），社会指意（social signifiers）、推力（nudge）、说服设计（persuasive design）、游戏化理论（gamification）、钩瘾效应（hooked）、日文中的仕挂学等各类用来引导驱动使用者行为的设计工具。

三波AI浪潮的历史命题

除设计科学外，行为科学与人工智能的发展历史也是共同演进的。

1960年代最早的人工智能研究，概念是希望将人类的分析、抽象、综合等多种能力置入计算机，后来没有成功，毕竟当时我们也不太理解自己的心智行为。

1980年代的第二波浪潮则是专家系统，计算机不需理解人的思考，但可学习人类定义好的规则，这波发展的限制在于许多决策我们也无法说清脉络规则，就像有限理性的限制，也像著名的博兰尼悖论主张“我们懂的事情，比我们能表达出来的更多”（We can know more than we can tell）。

2010年后的第三波机器学习浪潮似乎解决了这件事，我们让计算机自己从资料归纳规则，发展专属的心智认知模式，有点像计算机科学家奚力思（Daniel Hillis）在1998年的预言，创造人工智能的过程比较不像建构一台输入规则的心智机器，而像烘烤蛋糕或培植花园，我们不是制造人工智能，而是营造一种让智慧能显露的适当环境，最后这个环境与圣杯原来是语言生成。

那么，在生成式人工智能的寒武纪大爆发后呢？当我们谈AI如何影响设计或设计如何影响AI，背后的共通本质其实是行为科学，也是康纳曼留下的遗产 （很可惜我们没能听到康纳曼对大型语言模型的看法）。

有3种正在发生的行为科学视角。第1是AI透过行为科学来理解人，如何让AI更像人，关于模型的训练，行为经济学提供我们如何将人类认知偏见纳入模型的见解，以帮助系统更好地模拟或预测人类行为，可实现更精准使用者研究或AI代理人（agent）设计，也可主动矫正使用者的决策失误，提供更全面行为选项建议。

例如在产品推荐、投资建议或健康管理方案等应用情境，皆可透过对潜在认知偏见的识别修正，避免使用者陷入有限理性的思维陷阱。

第2种是人透过行为科学来设计或操作AI，像计算科学家渥富仁（Stephen Wolfram）提出的AI时代人类该学习的事，关于确定哪些问题值得提出与哪些事情需要自己做的全盘规画知识策略（intellectual strategy）。

此时我们对行为科学的理解将有助我们规画这个知识策略，协助 AI 生成更有效、更佳体验的选择架构与激励机制，或生成“助推”（nudges）界面（如选项排序）与情感共鸣来改变使用者的选择期望，例如在电子商务、金融、广告营销、游戏设计等应用情境，均可能借以行为科学为基础的 AI 生成达成营销推力、品牌传播、情感故事渗透等使用者黏着效果。

第3种是人与AI透过行为科学进行协作的分工规画，达到最佳人机协作效果。

如同近年许多行为经济学家所引用的康纳曼“快思慢想”比喻，完全理性的经济人像电影《星舰奇航记》中的外星人科学官史巴克，我们则更像卡通《辛普森家族》里的主角荷马辛普森，以直觉的捷思偏误作决策。

辛普森是“系统1”的快思，由情绪推动自远古进化而来的无意识决策，史巴克是“系统2”的慢想，是缓慢有意识且遵循古典经济学效用最大化的思考，是AI可实现的任务。未来的智能助手或自动化决策系统显然应更能灵活切换应对快思或慢想之决策情境，提供更弹性的人机任务 （task）协作互动平衡。

人类自我觉察与AI的无限碰撞

社会学家韦伯（Max Weber）说人类历史是个持续“除魅”（指以理性的科学去除神秘主义的信仰或迷思）的历程，这同时也是自我觉察的建构过程，像古希腊德尔菲的阿波罗神殿上的铭文“认识自己”（know thyself），或中国老子描述自我觉察的句子“知不知，上；不知知，病。”那么，我们是否已完全解开认知与有限理性的谜团，并藉大量过去训练资料完成了自我觉察的建构？或者我们是否已完全揭露理解自己的心智？

历史学家哈拉瑞（Yuval Noah Harari）在他的新书《连结》（Nexus）提到一种“天真的信息观”，今日我们在搜集与处理信息时遇到问题，直觉解方就是再搜集与处理更多信息，但这可能是行不通的，我们先是让AI模仿人的思维，AI演进后人开始有机会学习AI思维，因此当我们对自己的自我觉察认识愈多，我们的认知行为模式也可能会跟着动态演变愈多，像哲学家海德格（Martin Heidegger）说的，为了使用特定技术，人也可能被改变，这是人与技术间2种物质性遭遇下的体现关系。手中拿着铁槌，你就转变成看到什么都想槌下去的人，而不再是原本的自己。

因此，面对今日科技，当前的自然语言界面与实时反馈对话论述方式，是否会改变我们的自我觉察（更加知道自己想要什么），也改变我们对行为科学的认知？ 科技历史告诉我们，新的界面会改变原有互动方式，然后新互动会产生新的工作流程，新流程将需要引入新资料（data），然后将会产生新的（收集分析资料）工具，最后新工具形塑创造了新的行为模式。

当我们的行为认知方式影响AI，AI也将回头影响我们的行为认知方式，成为持续共演化的人机共同体。所以，究竟还有没有大型语言模型之外的其他通用人工智能（artificial general intelligence）实现路线？答案也可能在新的认知模式与新的行为科学研究中。

打造噪声趋零、低决策成本的新世界

康纳曼生前参与的最后一本书《噪声》，将认知偏误的理解作了延伸，探讨如何减少造成判断偏误的众多噪声，策略做法包括统计思维、抗拒过早的直觉、将判断过程结构化拆解成不同部件等。如何创造一个噪声很少的世界、决策成本很低的世界、新的AI人机协作世界、心智能力再提升的世界，我们的确还可继续向行为科学家学习。

由麦可‧路易士（Michael Lewis）描写康纳曼与特沃斯基之间友谊的《橡皮擦计划》（The Undoing Project）书中，最末有句特沃斯基的话，“有时候让世界变得更好，比证明你已经让世界变得更好，还要容易。”这世界的确因行为经济学家而变得不同且变得更好，直至今日我们还活在这些遗产中。

康纳曼著名的《快思慢想》开头描述了办公室茶水间场景，谈我们为何得在乎茶水间闲聊，因为从别人聊天话语中看到的自己，远比再多的自我觉察偏误认知更有效，这是互动对话论述的力量，提升了我们受困于有限理性的决策心灵。

说不定这也是我们对人机自然语言对话时代即将到来的一种乐观，那其实是，机器被发明前的美好老岁月。

编辑：楚楚

审核：一鸣