一句话定义
拟人化陷阱是机器只给出少量社会线索,用户却把理解、关心、意图和责任补全进去。风险不在机器像人,而在它看起来比实际更懂人。
机制 / 原理
人类会把轮换对话、眼神跟随、情绪语调和宠物式反应解释成理解。系统越像社会对象,用户越容易投入信任,也越容易在失败时感到被敷衍或被冒犯。情感化机器必须让能力边界、自动反应和真人转接清楚可见,否则浅层互动会制造过度信任。
经典实验 / 例子
1966 年,BBN 的副总以为自己正通过电脑和博布罗沟通,实际回应他的是伊莱扎。程序只是套用句式追问,最后因一句话没有句号而一直等待输入。副总把沉默理解成博布罗故意无礼,生气打电话质问,才知道对面只是程序。
书中案例出处
伊莱扎误认事件与克斯梅特互动
核心原文线索
伊莱扎误认事件与克斯梅特互动
案例现场复述
简单程序和社交机器人用有限线索激发了人类丰富解释。
为什么重要
它提醒设计者管理机器互动引发的过度信任。
生活中的例子
一款心理陪伴应用用头像、昵称和“我一直在”来接住用户倾诉。用户深夜输入自伤念头时,系统只回模板化安慰,没有风险升级和人工求助入口。用户原本期待被真正看见,结果把失败体验成被一个“人”抛下。
常见误区
误区:只要互动让人觉得亲切,就算成功。 亲切线索会提高理解和责任期待;没有能力边界与兜底机制,亲切会变成误导。