一句话定义
自动化可以减少人的操作负担，但它也会把复杂转移到后台技术、监控、故障恢复和安全边界中。前台越像一键完成，后台越需要解释、约束和恢复机制。
机制 / 原理
自动化适合处理重复、可规则化、可监控的复杂任务；不适当的自动化会改变错误形态，让人更难察觉系统何时错、为什么错、如何接管。设计挑战不是拒绝自动化，而是选择恰当自动化水平，保留概念模型、状态反馈、人工接管和安全防线。
经典实验 / 例子
第 9 章提醒，自动化可以减少压力、工作量、出错和事故，但部署不当会反过来增加压力和工作量，并制造更严重的新型错误。航空、工厂、制药、家居和汽车都可能遇到同类问题。技术把前台操作变少，却让底层系统更复杂，故障后也更难理解。
生活中的例子
智能客服把退款、补寄和赔偿合并成自动流程，普通订单确实快了很多。一次系统误把高价值订单判为低风险，自动退款后无法追回。团队后来增加风险阈值、状态解释、人工复核和撤回窗口。自动化保留，但复杂转移被看见和管理。
常见误区
误区：自动化越多，复杂性越少。 自动化常常只是把复杂从用户手里移到系统里；若后台不可解释，风险会在故障时集中爆发。