← 返回设计心理学3:情感化设计
学习进度1 / 1

社会机器人边界

Social Robot Boundary · DP307 设计心理学3 第 7 章 机器人的未来

一句话定义

社会机器人边界是给自主机器划清角色、权限、优先级和责任。越能独立行动的机器,越不能只按命令执行;它还要判断安全、公共利益和可追责性。

机制 / 原理

简单机器只需执行按钮命令,复杂机器会遇到冲突:用户命令可能伤人,袖手旁观也可能伤人,自我保护又可能妨碍任务。设计必须把优先级写进系统行为,并让拒绝原因、接管入口、日志和责任主体可见。社会机器人不是更乖的工具,而是受监督的合作者。

自主机器优先级优先级机器要判断设计要求最高会不会伤害人拒绝或急停中间命令是否合理解释和确认较低自身是否受损求助或降级自主机器的关键不是服从,而是可监督地处理冲突。
自主机器的关键不是服从,而是可监督地处理冲突。

经典实验 / 例子

电梯接到关门命令时,如果门口有人或物体挡住,它会拒绝执行;汽车检测到紧急刹车动作时,可能替驾驶员把刹车踩到底。机器没有单纯服从人,而是在安全优先的边界内重新解释命令,避免执行或不作为造成伤害。

书中案例出处
设计心理学3:情感化设计第 7 章 机器人的未来

机器人四大定律与自动刹车

核心原文线索
机器人四大定律与自动刹车
案例现场复述

安全、服从和自我保护会冲突,自动系统已经在一些场景中替人拒绝或重解释命令。

为什么重要

它把未来机器人伦理落到今天的自动驾驶、医疗、教育和家用系统边界上。

安全优先拒绝要解释责任可追踪人类可监督

生活中的例子

养老院护理机器人被老人要求“别通知护士”,但传感器发现他夜间跌倒后站不稳。系统先用语音说明风险,再通知值班护士,并记录触发条件。它没有把老人命令当成最高指令,而是在保护、解释和追责之间做边界设计。

常见误区

误区:机器人越可靠,就越应该完全服从用户。 高自主系统必须能在安全和伦理边界内拒绝、解释和升级;否则服从本身会变成风险。

资料来源:Donald A. Norman, Emotional Design,课程内容为原创改写 · 第 DP307
本讲解由 AI 依据该教材与主流学术观点撰写,非逐字引用,仅供学习参考。