纽约市AI招聘法：391家雇主中仅18家公布审计结果── 如果外部无人能核查是否已完成规定的审计，违规行为就不会被发现，也无人需要担责

2026年10月14日，斯坦福HAI介绍了研究AI问责的研究者黛布·拉吉（Deb Raji）。拉吉表示，该领域严重低估了执行其所争取的法律有多么困难。为什么 AI 问责法往往最终没有让任何人真正担责？ 因为如果外部没有人能核实所要求的审计和通知是否已完成，违规行为就会一直不为人知，追究任何人责任的程序也就永远不会启动。

01AI法律在外界无法核查合规情况之处陷入停滞

一部无法执行的法律会留下一串数字，而最清晰的痕迹来自一座AI法律已实际运行了一段时间的城市。先从Raji本人说起。她以对商用人脸识别系统的审计而闻名，在Google任职期间参与创建了Model Cards，今年秋天在Stanford HAI担任访问学者，之后将于2027年秋季加入教职。

在访谈中，Raji 分阶段描述了该领域的历史。2017 年前后，讨论全是高层次的原则。大约从 2020 年到 2023 年，出现了严肃的立法提案。ChatGPT 之后，法律开始获得通过，她列举的例子之一是纽约市的 Local Law 144。

法案通过之后就是执行。“我认为我们严重低估了执行方面的挑战，”Raji说。

第 144 号地方法的记录也指向同一方向。2024 年,一个研究团队检查了 391 家雇主,发现只有 18 家发布了该法要求的偏见审计。2025 年,纽约州审计长审查了市政机构执行该法的情况。该机构审查了 32 份已公布的审计,标记出一项可能的违规。州审计人员阅读了同样的 32 份审计,发现至少有 17 项。

需要说明的是，这些数字没有一个出自Raji。它们来自学术研究人员和一项政府审计。然而两个来源汇聚于同一个事实：当合规情况从外部无法看到时，违规行为就不会浮出水面。

对于在组织内部使用 AI 的人，我得出一个务实的结论：不要等着看哪些法律出台。请对自己的 AI 使用情况留下可供外部人员核查的记录。当有人要求你说明某项决策时，这份记录是你的回答唯一能够依靠的依据。

02第144号地方法律：招聘工具需在一年内完成偏见审计并公开

Before reading 18 out of 391 as a verdict, it helps to know exactly which duties those employers were under.

第144号地方法律是纽约市一项涉及自动化就业决策工具的法律，这类工具是雇主用来筛选或排序求职者的软件。执法权归属该市的消费者和劳工保护局，通常简称DCWP。义务由雇主承担，且按固定顺序履行。

审计必须在使用该工具之前一年内完成。审计结果的摘要必须张贴在任何人都能阅读的地方。候选人和员工必须在该工具用于他们之前十个工作日收到通知。DCWP 自 2023 年 7 月 5 日起开始执行该法律及其规则。

这个数字让一个特点格外醒目：该机构处于链条的最末端。审计、公示和通知都是雇主在自己一方要做的事。只有在得知其中某一步缺失之后，DCWP才能介入。

Raji 将这类偏见审计视为实际执法工具之一。因此，这些工具在纸面上是存在的。显而易见的下一步，就是统计究竟有多少雇主真正使用过它们，而一组研究人员正是这样做的。

03在接受检查的391家雇主中，18家公布了审计，13家公布了通知

这一统计来自由Lucas Wright领导的研究团队，Jacob Metcalf和J. Nathan Matias是共同作者之一。他们的论文已被FAccT 2024接收，这是计算系统公平性与问责制领域的主要学术会议。

该团队培训了155名学生担任调查员。这些学生共同记录了391家雇主遵守《地方法律144号》的情况。其中，18家雇主公布了审计报告，只有13家公布了告知求职者正在使用自动化工具的透明度通知。

同一部法律赋予三方三种不同的职责，而各方留下的数字也各不相同。将它们并列起来，情况如下。

对于这 18 家之外的每一家雇主，外部人员根本无法判断其是否使用 AI 筛选申请。粗略一看，会认为其余雇主都在违法。研究团队把这一结论为何不成立的原因写进了论文标题。

这里要说明一个局限：该调查反映的是2024年的情况。我没有核实此后是否有更多雇主公布了审计结果。

04雇主自行判断该法律是否适用，因此沉默并不能证明什么

18 的低计数并不意味着违规数量多，原因在于法律的设计。

据 Wright 及其同事称,《地方法 144 号》赋予雇主很大的自由裁量权,可自行决定其系统是否属于该法的适用范围。认定自家工具不在适用范围内的雇主,既不公布审计结果,也不发出通知。而工具属于适用范围却什么都不公布的雇主,从外界看来与前者毫无区别。

研究人员将这种情况称为零合规。当搜索一无所获时，这个空结果不能说明存在不合规，也不能说明合规。观察者得不到任何答案。

Raji 从另一个角度触及了同一堵墙。她说，企业在坦率说明一个系统运行得好不好方面，受到结构性的限制。依我理解，“结构性”一词指的是：这种限制源于企业在谈论自家产品时所处的位置，而不在于任何一名员工是否诚实。

在我看来，这两个事实相互叠加。法律把范围的决定权交给雇主，而雇主又不适合坦率地谈论自己的工具。这两者结合在一起，可以预见的结果就是流向外界的信息很少。

05州审计人员在 32 项审计中发现了 17 项以上可能的违规行为；而该市只发现了 1 项

什么都不公布的雇主与违规的雇主无法区分。这样一来，只剩下已公布的审计报告。它们至少被认真阅读了吗？

纽约州审计长审查了 DCWP 从2023年7月至2025年6月的执法活动，并于2025年12月发布了审计报告。我在当前环境中无法打开完整报告。以下数据引自律师事务所 DLA Piper 于2026年1月发布的一份分析。

调查结果分布在三个方面。对于纽约以外的读者，311是该市的综合电话专线，用于咨询和投诉市政服务。

在这三点中，第二点于我而言分量最重。记录是存在的。它们已经按法律规定的地点公布。但是，一旦读者忽略了其中的内容，结果就与没有记录毫无区别。

第一个发现同样重要。一位候选人如果发现缺少通知并拨打了电话，那么按这些测试结果，有四分之三的概率找不到正确的部门。外部人士本可用来举报违规行为的少数几扇门之一，基本上是关着的。

06问责需要法律、可见的记录以及审查记录的能力

在同样的32次审计中，该机构发现了一起可能的违规。把到目前为止的事实摆在一起，就会发现没有人被追究责任的原因落在三个地方。

第一点改变了我解读有关新AI法律的新闻标题的方式。当我看到有报道称另一个司法管辖区已通过此类法律时，我不再认为这意味着责任现在可以被落实。《地方法律144号》于2023年开始执法，此后产生的数字是18家雇主和一个被标记的问题。

第二点改变了应如何看待沉默。在零合规的情况下，一家什么都不发布的公司和一家违法的公司，从外部看起来并无二致。Raji所描述的企业坦诚度的局限也推向同一方向，即更少披露而非更多披露。

第三点改变了评判记录价值的方式。已发布的32份审计报告作为记录是完整的，其价值取决于由谁来阅读。由州审计员阅读时，其中至少包含17个潜在问题；由该机构阅读时，只发现了一个。

这三者并不相互独立。法律规定义务，用户公布记录，有人去阅读。只要缺少其中任何一环，另外两环就不足以启动追究任何人责任的程序。

07加州民众要求问责，但尚未指明任何执法途径

要追究任何人的责任，需要一部法律、一份记录，以及一个能够读懂记录的人。在一个正在筹备下一轮AI规则的州，这三者中缺少哪一个？

2026年10月13日，加利福尼亚州州长加文·纽森公布了“Engaged California”的成果，这是一项让居民参与AI相关决策的全州范围举措。面向全州的版本已于2026年5月向所有居民开放。

最常出现且获得最强支持的主题有三个。其中之一是“让 AI 公司对其造成的危害负责”。

公告没有说明将如何执行。它没有点名任何法案，也没有设定期限。它只是说，这些建议将为未来的政策决定提供参考。

Raji 则提出了具体的执法工具。其一是标准化的披露模板，使透明度要求有明确的形式。另一个是事件数据库，它预先界定什么算作有效事件，并记录政府和企业如何应对。

披露模板有先例可循。Raji在谷歌任职期间，曾参与创建模型卡（Model Cards）——一种随训练后的模型附带的简短文档，用于报告模型在评估中的表现。介绍它的论文发表于2018年。

加州是否会构建此类工具，目前尚不得而知。我能够核实的内容止于居民要求问责这一事实。

使用AI的组织无需等待政府出手。在第144号地方法律之下，外界看不到的那一步，是雇主自己对某项工具是否在适用范围内所做的决定。把这一决定的理由写下来并留存，日后任何人就能分辨出沉默与违规的区别。

仍存在一些不确定性，应当如实写在页面上。391 家雇主的调查来自 2024 年，此后的披露情况我并未核实。州审计数据是通过一家律师事务所的引述确认的，而非报告本身。311 电话被误转、从未到达该机构的细节同样依赖二手摘要。

当没有外部记录显示合规情况、也没有人有能力去解读这些记录时，一部规定AI危害责任归属的法律几乎起不到什么作用。纽约市的18家雇主和那唯一一个被标记的问题，正是这种情形在实践中的样子。

只有自己留存记录的组织，才能在被问到时作出回答。对于我自己工作中使用的 AI 工具，我从每个工具一行开始：在任何人询问之前，先写下我决定使用它的理由。