紐約市 AI 招募法：391 家雇主中僅 18 家公布稽核結果── 若外界無法查核所要求的稽核是否已完成，違規行為就不會被發現，也無人須負責

2026 年 10 月 14 日，Stanford HAI 專訪了研究 AI 問責的研究者 Deb Raji，Raji 表示，這個領域嚴重低估了落實自己所爭取的法律有多困難。為何 AI 問責法規往往最後沒有任何人真正被問責? 因為當外界無人能查核所要求的稽核與通知是否已完成時，違規行為便會一直不為人知，追究任何人責任的程序也就永遠不會啟動。

01AI 法規卡在外界無法查核合規與否的環節

一項存在卻無法執行的法律，只會留下一串數字，而最清楚的軌跡來自一座AI法律已實際運行一段時間的城市。就從 Raji 本人說起。她以對商用臉部辨識系統的稽核聞名，在 Google 任職期間協助創建了 Model Cards，今年秋天以訪問學者身分在 Stanford HAI，並將於 2027 年秋季加入教職。

在訪談中，Raji 將該領域的歷史分成幾個階段來說明。2017 年前後，討論全是高層次的原則。大約從 2020 年到 2023 年，出現了嚴肅的立法提案。ChatGPT 問世之後，法律開始通過，她舉出的例子之一是紐約市的 Local Law 144。

法案通過之後接著要面對的是執法。「我認為我們嚴重低估了執法方面的挑戰，」Raji 表示。

地方法 144 號的紀錄也指向同樣的方向。2024 年，一組研究人員查核了 391 家雇主，發現只有 18 家公布了該法要求的偏見稽核。2025 年，紐約州審計長檢視了市府機關如何執行該法。該機關審查了 32 份已公布的稽核報告，並標記出一項可能的違規。州審計人員閱讀了同樣的 32 份稽核報告，發現至少有 17 項。

須說明的是，這些數字沒有一個出自 Raji。它們來自學術研究者與一項國家稽核。然而這兩個來源指向同一個事實：當合規情形無法從外部看見時，違規行為就不會浮現。

對於在組織內部運用 AI 的人，我得出一個實務上的結論：不要等著看會有哪些法律出台。請保存一份外人可以查核的自身 AI 使用紀錄。當有人要求你說明某項決策時，這份紀錄就是你的回答唯一能立足的依據。

02Local Law 144：招募工具須在一年內完成偏見稽核並公開結果

在把 391 件中的 18 件當作定論之前，最好先確切了解這些雇主當時負有哪些義務。

Local Law 144 是紐約市一項規範自動化就業決策工具的法律，這類工具是雇主用來篩選或排序求職者的軟體。執法機關為該市的消費者與勞工保護局，通常簡稱 DCWP。責任由雇主承擔，且須依固定順序履行。

稽核必須在工具使用前一年內完成。稽核結果的摘要必須公布在任何人都能閱讀的地方。求職者與員工必須在工具對其使用前十個工作日收到通知。DCWP 自 2023 年 7 月 5 日起開始執行該法律及其規則。

這個數字讓一個特點格外明顯：主管機關位於整條鏈的最末端。稽核、公告與通知，都是雇主在自己這一端所做的事。DCWP 只有在得知其中某一步驟缺漏之後，才能介入。

拉吉認為，這類偏見稽核是執法的實用工具之一。因此，這些工具在紙面上是存在的。顯而易見的下一步，就是統計究竟有多少雇主實際使用過這些工具，而一群研究人員正是這麼做的。

03在受查的 391 家雇主中，18 家公布了稽核報告，13 家公布了通知

這項統計來自由 Lucas Wright 領導的研究團隊，共同作者包括 Jacob Metcalf 與 J. Nathan Matias。他們的論文已獲 FAccT 2024 接受，該會議是電腦系統公平性與問責領域的主要學術會議。

該團隊訓練了155名學生擔任調查員。這些學生共同記錄了391家雇主遵守《地方法第144號》（Local Law 144）的情況。其中有18家雇主公布了稽核報告，只有13家公布了告知求職者正在使用自動化工具的透明度通知。

同一部法律賦予三個不同的當事方三項不同的工作，而每一方留下的數字也各不相同。並列來看，結果如下。

對於這 18 家以外的每一位雇主，外界根本無法得知是否有使用 AI 來篩選應徵申請。粗略解讀的話，會得出其餘雇主都在違法的結論。研究團隊把這個結論站不住腳的原因寫進了論文標題。

有一項限制必須在此說明。這項調查反映的是2024年的情況。我尚未確認自那時起是否有更多雇主公布了稽核結果。

04雇主自行決定法律是否適用，因此沉默並不能證明什麼

18 這個低數值並不代表違規數量很高，原因在於法律的設計。

根據 Wright 及其同事的說法，《地方法 144 號》賦予雇主相當大的裁量權，可自行決定其系統是否屬於該法的適用範圍。若雇主認定其工具不在適用範圍內，就不會公布稽核結果，也不會發出通知。若雇主的工具其實在適用範圍內卻未公布任何內容，從外界看來也完全一樣。

研究人員將這種情況稱為「零合規」（null compliance）。當搜尋一無所獲時，這個空白結果無法說明存在不合規。也無法說明合規。觀察者得不到任何答案。

拉吉從另一個角度觸及了同一道高牆。她表示，企業在坦率說明系統運作得好不好這件事上，受到結構性的限制。依我對「結構性」一詞的理解，這種限制在於企業談論自家產品時所處的立場，而不在於任何一位員工是否誠實。

依我的解讀，這兩項事實會相互加乘。法律把範圍的決定權交給雇主，而雇主又不適合坦率談論自家的工具。這兩者加在一起，對外流出的資訊很少，就是可預期的結果。

05州審計人員在 32 項審計中發現 17 項以上可能的違規；市府自行查出的僅有一項

什麼都不公布的雇主，與違法的雇主無從區分。剩下的就是已公布的稽核報告。它們至少被仔細閱讀了嗎？

紐約州審計長審查了 DCWP 自 2023 年 7 月至 2025 年 6 月的執法活動，並於 2025 年 12 月公布稽核報告。我在自己的環境中無法開啟完整報告。以下數字引自律師事務所 DLA Piper 於 2026 年 1 月發表的分析。

調查結果分成三個部分。對於紐約以外的讀者，311 是紐約市針對市政服務的詢問與投訴所設的一般電話專線。

三者之中，第二點對我而言分量最重。紀錄確實存在，也已依法律規定的地點公布。但一旦讀者忽略了其中的內容，結果就與沒有紀錄毫無差別。

第一項發現同樣重要。一位發現缺少通知而打電話詢問的求職者，依這些測試結果，有四分之三的機會無法聯絡到正確的窗口。局外人得以檢舉違規的少數管道之一，大多是關閉的。

06問責需要法律、可見的紀錄,以及檢驗的能力

在同樣的 32 次稽核中，該機構只抓出一項可能的違規。把目前的事實並排來看，無人被追究責任的原因可歸為三處。

第一點改變了我解讀新 AI 法律相關新聞標題的方式。當我看到有報導說另一個司法管轄區已通過這類法律時，我不再認為這代表責任現在就能被釐清。《地方法律 144 號》於 2023 年開始執法，而其後產生的數字是 18 家雇主和一項被標記的問題。

第二點改變了沉默應被看待的方式。在「零合規」的情況下，從外部看來，什麼都不公開的公司與違法的公司並無差別。Raji所描述的企業坦率程度之限制，也朝同一方向推動，即揭露更少而非更多。

第三點改變了評判一份紀錄價值的方式。已公布的32份稽核報告作為紀錄是完整的，其價值取決於由誰來閱讀。由該州的稽核人員閱讀時，其中至少含有17項潛在問題；由該機關閱讀時，則只有一項。

這三者並非彼此獨立。法律規定義務，使用者公布紀錄，然後有人閱讀。只要缺少任何一環，另外兩環就不足以啟動追究責任的程序。

07加州民眾要求問責，但尚未指明任何執法途徑

要追究任何人的責任，需要一部法律、一份紀錄，以及能夠解讀紀錄的人。在一個正準備制定下一輪 AI 規範的州，這三者中缺少的是哪一項？

2026 年 10 月 13 日，加州州長 Gavin Newsom 公布了「Engaged California」的成果，這是一項讓居民參與 AI 相關決策的全州性行動。全州版本已於 2026 年 5 月向所有居民開放。

最常出現且獲得最多支持的有三個主題。其中之一是「讓 AI 公司對其造成的危害負責」。

該公告並未說明將如何執行。它沒有指明任何法案，也沒有設定期限。它只說這些建議將作為日後政策決策的參考。

拉吉則提出了具體的執法工具。其一是標準的揭露範本，使透明度要求有明確的形式。另一個是事件資料庫，預先定義何謂有效事件，並記錄政府與企業的因應方式。

揭露範本已有先例。Raji 在 Google 任職期間，協助創建了 Model Cards，這是隨訓練完成的模型附上的簡短文件，用以報告模型在評估中的表現。描述該文件的論文於 2018 年發表。

加州是否會打造這類工具，目前尚不得而知。我能查證的，僅止於居民要求究責這項事實。

使用 AI 的組織不必等待政府。依據地方法 144 號，外界看不見的那一步，是雇主自己判斷某項工具是否屬於適用範圍。把這項決定的理由寫下來並保存，日後任何人都能分辨那是沉默還是違規。

仍有一些不確定之處，理應如實寫明。這項涵蓋 391 家雇主的調查來自 2024 年，之後的揭露情況我並未查核。州審計數據是透過一家律師事務所的引述確認，而非直接查閱報告本身。至於 311 通電話從未送達該機關的細節，同樣僅憑二手摘要。

當沒有任何外部紀錄顯示遵循情形，也沒有人有能力解讀時，為AI危害歸責的法律成效有限。紐約市的 18 家雇主與單一被標記的問題，正是這種情況在實務中的樣貌。

使用 AI 的組織，只有自行保存紀錄，才能在被詢問時給出答覆。對於我自己工作中使用的 AI 工具，我先從每項工具一行開始：把決定使用它的理由，在有人問起之前先寫下來。