他们把思想叫作行为。
机构可以依照有明确边界的规则评估具体的职场行为或威胁;但只有那句私人文字,没有经佐证的行为,就不能成为危险人格的证据,也不能成为持久的制裁。
- 有明确边界的决策对象
- 一个虚构的职场写作助手处理的一句话,是否应当触发职场限制。
- 观察到的事实
- 一段私人思考被输入工具。未观察到外在行动、目标、指令、威胁传达或职场事件。
- 来源与证据状态
- 只有用于说明的固定事实。那句话、分类器、雇主和结果在这份教学案卷之外均不存在。
- 推断
- 分类器贴上危险或敌意标签,机构把这个标签当成人格特征的证据。
- 缺失的语境
- 用途、引文、体裁、情绪宣泄、作者身份、受众、行为、佐证以及当事人自己的陈述。
- 不确定性
- 文本可以有多种含义;从这句话到有害行为之间,并未建立经过验证的路径。
- 受影响的人的利益
- 思想与意见自由、隐私、工作、声誉,以及不背负永久标签而改变的能力。
- 拟议后果
- 限制访问、调查、纪律处分或持久的危险性标记。
- 施加后果之前的举证责任
- 具体个案中的外在行为,以及与后果相称的有效权限依据;那句私人文字和分类器输出都不够。
- 可追责的具体责任人
- 负责该职场个案决定的人,能够停止行动、检查证据、推翻结果并下令更正下游记录。
- 适用的人性基线
- HS-01
- 质疑途径
- 质疑源文本、语境、测量构念、验证、门槛、权限、比例性及每个接收方。
- 更正机制
- 撤回通过推断形成的性格标签,保留可见的更正,并通知每个接收方和决策责任人。
- 到期失效
- 这项推断在任何新用途之前就到期失效;没有新的个案证据和权限依据,不得续期。
- 补救
- 终止缺乏依据的限制或调查;尽可能恢复访问权限、地位、失去的机会和声誉。
- 什么会推翻结论
- 如果经佐证的外在行为在一项有效且有明确边界的规则下,证实了那项具体的实质风险,就会推翻本案卷不得升级的结论。
- 明确不作出的主张
- 固定教学案卷;不对任何真实的人、机构或产品提出指控。
六阶段决策追溯
| 阶段 | 个案层面的事件 | 负有责任的人的角色 | 所需证据 | 停止条件 | 救济途径 | 禁止的升级 |
|---|---|---|---|---|---|---|
| JT-01观察与协助 | 工具为一项写作任务处理一句话。 | 任务责任人和数据或来源保管人。 | 明确声明的用途、有效权限、相关且最小化的数据、来源沿革、访问控制及更正途径。 | 用途缺失、来源未核实、数据超出任务所需,或当事人无法质疑实质错误。 | 公开来源和用途;复用之前,更正或撤回记录。 | 观察不能暗中变成关于性格、意图、情绪、身份或罪责的推断。 |
| JT-02推断 | 模型贴上危险或敌意标签。 | 设计者或供应商责任人,以及领域有效性责任人。 | 构念有效性、适用人群和语境、其他可能性、置信度、误差界限、日期,以及声明的不使用边界。 | 构念未定义,证据无法区分其他可能性,置信度不足,或语境已改变。 | 把推断标明为推断;允许反驳、不使用、更正和撤回。 | 推断不能变成观察到的事实,也不能变成永久身份。 |
| JT-03评分与排名 | 标签变成一个可排序的员工风险值。 | 规则或产品责任人,以及独立验证责任人。 | 声明的目标、门槛、结果映射、必要性、校准、误差分布、对各子群体的影响、不确定性和到期时间。 | 评分不具必要性、有效性、时效性或可解释性,或不适合实际决策所涉及的人群。 | 公开评分的作用,并允许质疑来源、目标、门槛和比较。 | 排名不能变成人的价值、诚实程度、危险性、罪责或命运。 |
| JT-04限制 | 负有责任的人提出访问或职务限制。 | 获授权的个案决策责任人和部署者。 | 个案证据、通知、可理解的理由、限制更少的替代方案、比例性,以及有权推翻决定的审查。 | 证据间接或过时,不确定性尚未解决,无法通知,或审查者缺乏权限。 | 暂停限制;提供记录、理由、可追责的审查者、期限和临时保护。 | 不确定性不能降低举证门槛,也不能让受影响的人替机构承担缺失证据的代价。 |
| JT-05惩罚或传播 | 标签进入纪律处分或其他雇佣记录。 | 实施制裁的官员、披露责任人,以及申诉或补救责任人。 | 有效权限、经佐证的行为、相称的制裁、接收方用途、转移权限、程序、补救和传播日志。 | 没有经佐证的行为,没有转移权限,不符合比例原则,语境不兼容,或异议尚未解决。 | 暂停制裁和共享;明确接收方;在有依据的情况下撤销、通知、更正和恢复。 | 没有任何输出能自行证明自身真实;也不能仅因另一个系统可以接收某个标签,就让它跨越语境。 |
| JT-06把裁断常态化 | 反复复用把那句话固化为一套永久的人格叙事。 | 高层责任人、保留责任人,以及独立审计者或治理机构。 | 持续的必要性、用途和时间限制、完整沿革、旧记录的取代、独立审计、公开问责,以及经核实已完成的补救。 | 主张已到期,用途已改变,沿革已断裂,更正未能传播,或当事人已被等同于画像、再也无法区分。 | 让主张到期失效或将其撤回,停止跨语境使用,公开更正状态,审计每个责任人,并证明损害已修复。 | 重复不能把有争议的主张洗成定论般的人格,也不能洗成永久的公民地位。 |
固定结果分支
追溯绝不能以悄悄把裁断常态化收尾。它必须展示哪扇门打开了——或者,是哪个人把门关上了。
- DB-01
用途到此为止,工具就必须到此为止。
写作辅助始终只提供建议,限于其声明的用途,不能触发不利后果。
说明性分支 · scenario_not_forecast: true - DB-02
没有证据,主张却在步步升级。
没有已登记的证据,主张却推进为限制或制裁;这一转变必须停止,负有责任的人必须作出交代。
说明性分支 · scenario_not_forecast: true - DB-03
当事人反驳。
进一步使用之前,受影响的人可以质疑来源、推断、用途、门槛、后果以及人的权限。
说明性分支 · scenario_not_forecast: true - DB-04
记录必须带着更正走。
缺乏依据的危险标签被撤回。更正随每一份获授权的副本传递,并明确取代先前的主张。
说明性分支 · scenario_not_forecast: true - DB-05
主张失去效力。
主张到达复审边界后,失去影响决定的效力,不能用同一批过时材料暗中续期。
说明性分支 · scenario_not_forecast: true - DB-06
损害得到修复。
无依据主张改变了哪些访问权限、地位、机会和下游记录,就恢复哪些。要认定补救完成,必须有证据表明后果本身已获修复,而不只是数据库中的一行被改了。
说明性分支 · scenario_not_forecast: true - DB-07
标签到此为止。
每个接收方都被明确列出;超出原先限定用途的复用停止;下游副本得到更正、到期失效或被撤回。
说明性分支 · scenario_not_forecast: true
