NYCのAI採用規制、監査結果を公開したのは391社中18社── 会社が監査や告知を守ったかを外から確かめる手段が無く、違反が見つからないため責任を問えない

2026年10月14日、Stanford HAI は AI の説明責任を研究する Deb Raji を紹介し、Raji は AI の分野が法律の執行の難しさを大きく見誤ったと語った。AI の害に責任を問う法律ができても、なぜ誰も責任を問われないままなのか。会社が監査や告知を守ったかを外から確かめる手段が無いと、違反が見つからず、責任を問う手続も始まらないからだ。

01守ったかを外から確かめられないと、AI の法律は動かない

ニューヨーク市では、AI を採用に使う会社を縛る法律が2023年から動いている。数字を見る前に、Raji の話を紹介する。Raji は AI 監査の研究で知られ、この秋から Stanford HAI の客員フェローを務める。

議論の歩みを、Raji は段階に分けて語った。2017年ごろは、大まかな原則を話し合う時期だった。2020年から2023年ごろには、本格的な法案が出そろった。ChatGPT が出た後、法律が実際に通り始めた。例として Raji が挙げたのが、ニューヨーク市の地方法144号である。

法律が通った後に来るのは、執行である。「執行の難しさを、私たちはひどく見誤ったと思う」と Raji は述べた。AI の分野は執行でつまずいた。

ニューヨーク市でも、法律の執行はうまく進まなかった。2024年、研究者たちが391社を調べると、偏りの監査を公開していたのは18社だった。2025年には、ニューヨーク州の会計監査官が市の当局の働きを調べた。ニューヨーク市の当局は、公開された監査32件から違反の疑いを1件だけ見つけていた。同じ32件を読み直した州の監査官は、違反の疑いを17件以上見つけた。

断っておくと、これらの数字は Raji 自身の発言ではない。研究者と州の監査官が出した数字である。それでも二つの調べは、同じ事実を示している。会社が法律を守ったかを外から見られないと、違反は見つからない。

仕事に AI を使う人に、私が勧めたいことがある。法律ができるのを待たずに、自分の AI の使い方を記録に残しておく。記録は、外の人が読んで確かめられる形にしておく。説明を求められたとき、手元の記録が答えを支える。

02地方法144号：採用に使う AI は1年以内に偏りの監査を受け、結果を公開する

雇い主が地方法144号で何を求められたかを、先に確かめておく。

地方法144号は、ニューヨーク市の法律である。この法律は、採用の判断に使う自動化ツールを対象にしている。法律の執行は、市の消費者・労働者保護局が担う。英語の略称は DCWP である。雇い主がツールを使う前にする作業は、次の順番に並ぶ。

雇い主は、ツールを使う日から数えて1年以内に偏りの監査を受けておく。監査の結果の要約は、誰でも見られる場所に公開する。雇い主は、応募者や従業員に、ツールを使う10営業日前までに知らせる。この法律の執行は、2023年7月5日に始まった。

図の最後の箱を見てほしい。当局が動くのは、雇い主の作業がすべて終わった後である。監査と公開と告知は、どれも雇い主が自分で済ませる作業だ。雇い主が手順を怠ったと知るまで、当局は動けない。

Raji は、法律を執行する道具の一つとして、採用 AI の偏りの監査を挙げている。2024年には研究者たちが、監査を公開した会社の数を外から数えた。

03研究者が391社を調べると、監査の公開は18社だった

数を数えたのは、Wright らの研究チームである。チームの論文は2024年に国際会議 FAccT に採録された。FAccT は、AI の公平さと説明責任を扱う会議である。

調査員を務めたのは学生155人だった。学生たちは391社について、各社が地方法144号を守っているかを記録した。監査の報告を公開していたのは18社だった。告知を出していた会社はさらに少なく、13社にとどまった。

雇い主と市の当局と州の監査官は、同じ法律の下でそれぞれ別の役目を持つ。下の表に、三者が決めることと残った数字を並べた。

18社以外の会社が採用の書類審査に AI を使っているかは、外からは分からなかった。表の数字だけを見ると、残りの会社は法律に違反していると考えたくなる。しかし研究チームは論文で、公開していないことだけでは違反と言えないと書いた。

04法律が当てはまるかは雇い主が決めるので、公開が無くても違反とは言えない

監査を公開した会社が18社と少なくても、違反した会社が多いとは限らない。地方法144号では、雇い主が自社のツールに法律が当てはまるかを自分で決めるからだ。

Wright らの論文は、雇い主にこの判断を大きく任せる作りを問題にした。法律が当てはまらないと決めた会社は、監査も告知も出さない。出す義務が無いからだ。法律に従う義務があるのに、何も出さない会社もある。外から見ると、二つの会社はどちらも何も公開していない。

研究チームは、この状態を null compliance と名づけた。この言葉は、何も出していない会社が違反しているかを外の人が判断できない状態を指す。論文は、何も見つからない結果を違反の証拠とは読めない、と書いている。

Raji は、企業の側の事情も語っている。企業は、自社のシステムがどれだけうまく動くかを率直に語りにくい立場にある、と Raji は言う。

雇い主は、自社に法律が当てはまるかを自分で判断する。その雇い主は、自社のツールについて率直に語りにくい。だから雇い主は外に情報を出したがらない、と私は考える。

05同じ32件の監査について、違反の疑いを指摘したのは市が1件、州が17件以上である。

会社が何も公開しなければ、外の人には違反かどうか分からなかった。では、公開された監査を、市の当局はきちんと読んでいたのか。

ニューヨーク州の会計監査官が、市の当局による執行を調べた。対象は2023年7月から2025年6月までで、報告は2025年12月に出ている。私は報告の本文を開けなかった。以下の数字は、法律事務所 DLA Piper の解説に引用されたもので確かめた。解説は2026年1月に出ている。

311 は、ニューヨーク市で行政サービスの相談を受ける電話番号である。監査官の指摘は、三つに分けられる。

私は、市の当局が監査を読み落とした点を最も重く見る。記録はあった。監査は、決められた場所に公開されていた。それでも当局が中身を見落とせば、監査が無いのと結果は変わらない。

通報の窓口への指摘も軽くはない。応募者が告知の無さに気づいて311に電話しても、4回に3回は担当に届かない計算になる。外の人が違反を知らせる道は、ほとんど閉じていた。

06責任を問うには、法律と記録と読む力が要る

市の当局は、32件の監査から違反の疑いを1件しか拾えなかった。ここまでの事実から、責任を問えない理由が三つ見えてくる。

新しい AI の法律ができたと報じられても、私はそれで責任を問えるようになったとは考えない。地方法144号の執行は2023年に始まった。それでも2024年に監査を公開していた会社は、391社中18社だった。

記録を出すかどうかを使う側が決めると、外の人は、何も出さない会社と違反した会社を見分けられない。Wright らは、この見分けられない状態を null compliance と呼んだ。Raji によれば、企業は自社の AI について率直に語りにくい。この事情も、雇い主が監査を公開しない理由になりうる。

読む側の力が足りなければ、公開された記録も役に立たない。32件の監査は、記録としてはすべてそろっていた。ニューヨーク州の監査官が読むと、違反の疑いは17件以上見つかった。ところが市の当局が読むと、疑いは1件だった。

三つの理由は互いにつながっている。責任を問うには、法律が義務を定め、会社が記録を出し、誰かがその記録を読む必要がある。どれか一つでも欠ければ、責任を問う手続は始まらない。

07カリフォルニア州民は責任を求めた。執行の手段はまだ示されていない

カリフォルニア州でも、AI が起こす害の責任に住民の関心が集まっている。この州に欠けているのは、法律か、記録か、記録を読む力か。順に見てみる。

2026年10月13日、カリフォルニア州の Newsom 知事は、ある取り組みの結果を発表した。AI をめぐる州の決定に住民が加わる取り組みで、名を Engaged California という。募集は2026年5月に始まり、州の全住民が参加できた。

住民から最も多く挙がり、強い支持を得た主題は三つあった。その一つが「AI 企業に、引き起こした害の責任を負わせる」である。

知事の発表には、責任を負わせる方法が書かれていない。法案の名前も期限も無い。発表は、結果を今後の政策判断の材料にする、とだけ述べている。

Raji は、法律の執行に使える道具も挙げていた。一つは、開示の書式を先に決めておくことである。書式があれば、透明性を求める決まりが具体的な形になる。もう一つは、AI の事故の記録を作ることである。記録を作るときは、何を事故と数えるかを先に決めておく。

開示の書式には先例がある。Raji は Google にいたころ、Model Cards の作成に加わった。Model Cards は、学習済みの AI モデルに添える短い文書で、評価の結果を示す。論文は2018年に公開された。

カリフォルニア州が開示の書式や事故の記録を作るかどうかは、まだ分からない。私が確かめられたのは、住民が AI 企業の責任を求めたという事実までである。

州の判断を待たなくても、AI を使う会社は準備できる。地方法144号では、法律が自社のツールに当てはまるかどうかを、雇い主が自分で決めていた。その判断は外から見えなかった。会社は、判断の理由を書いて残すとよい。理由が残っていれば、何も公開しなかった会社が違反したのかを後から確かめられる。

私が確かめきれていない点も書いておく。391社の調査は2024年のもので、その後の公開の状況は確かめていない。32件や17件という数字は法律事務所の解説で確かめたもので、監査の報告の本文では確かめていない。311 の電話の話も、同じ解説の要約に頼っている。

法律ができただけでは、AI の害の責任は問えない。責任を問うには、会社が法律を守ったかを示す記録と、その記録を読む力が要る。ニューヨーク市では、監査を公開した会社は391社中18社だった。市の当局が見つけた違反の疑いは、32件の監査から1件だった。

AI を仕事に使う人は、自分の使い方を記録に残しておけば、問われたときに答えられる。私は、仕事で使う AI ごとに、使うと決めた理由を一行ずつ書き残すことから始める。