Skip to content
雲里
里雾

危害控制层级 🌱 Seed

开发

aka: Hierarchy of Controls, 控制层级

Content

美国职业安全卫生研究所(NIOSH)把控制工作场所危害的手段按有效性排成五级:消除、替代、工程控制、行政控制、个人防护,越靠前越不依赖人的记忆和自觉[1]。迁移到 agent 工程:给技能写一句提醒、等模型每次读到后照做,属于行政控制,排在「让错误根本无法发生」的工程控制之后——能用代码兜住的问题优先修代码。

Acceptance

“The hierarchy of controls is a way of determining which actions will best control exposures.”[1]

行政控制与工程控制的定义:

“Administrative controls establish work practices that reduce the duration, frequency, or intensity of exposure to hazards.”
“Engineering controls reduce or prevent hazards from coming into contact with workers.”[1]

Question

  • 为什么个人防护排在行政控制之后,而不是之前?
  • 套到 agent 工程时,「替代」对应什么手段?
  • 模型每次启动都会读到的技能正文,算行政控制还是工程控制?

See Also

Skill

Answer

为什么个人防护排在行政控制之后,而不是之前?

个人防护只在危害已经到达人身上时才起作用,效果完全取决于使用者每次正确佩戴——既不隔离危害,最多只能减轻伤害;行政控制至少还能减少暴露的时间和频率,所以排在更前[1]。

套到 agent 工程时,「替代」对应什么手段?

对应换掉做法本身:不用自由文本改用结构化输出、不靠模型记忆改查表、不让 agent 手写命令改由脚手架生成。危险的不只是操作会错,而是这种执行方式本身存在,替代就是把这类做法整个换掉。

模型每次启动都会读到的技能正文,算行政控制还是工程控制?

仍算行政控制。行政控制的本质是「靠执行者每次都记得照做」,技能每次被读只是把「记得」的概率提高,模型仍可能不照做;真正的工程控制是让错误在机制上无法发生,例如脚本直接拒绝执行。


  1. NIOSH,Hierarchy of Controls,2026 年 9 月 24 日访问。 ↩ ↩2 ↩3 ↩4
分享这张卡片:
分享到 X

危害控制层级

开发 · aka: Hierarchy of Controls、控制层级
#安全工程 #工程方法论