NY州RAISE法施行へ、AI停止装置より先に72時間報告── 法がいま開発企業に課すのは安全方針の公表と事故報告の期限であり、停止装置は研究の段階にとどまるので、AIを止める手順は使う側が自分で持つ。

2026年9月21日、ニューヨーク州のホークル知事は、先端AIの開発企業を対象とするRAISE法の施行手順を発表し、11月からの登録、2027年1月1日の適用、重大な安全事故の72時間以内の報告を示したうえで、AIの停止装置は「実現可能なら検討する」と述べた。AIを止める権限を州がまだ持たないいま、先端AIの安全を実際に縛っているのは何か。答えは、安全方針の公表と事故報告の期限であり、止める手順はAIを使う側が自分で持つ必要がある。

01NY州のRAISE法がAIの開発企業に最初に課すのは報告の期限である

リードの答えを確かめるには、9月21日の発表のうち、日付と手続きが決まった部分と、まだ言葉だけの部分を分けておく必要がある。決まったのは手続きのほうである。先端AIの開発企業は11月から州に登録し、2027年1月1日から法の義務を負い、重大な安全事故が起きれば72時間以内に州へ報告する。

停止装置は、決まっていないほうに入る。知事は、実現可能で州の利益にかなうと判断されれば停止装置などの安全策も探ると述べたが、導入を約束したわけではない。報道も、約束はないと伝えている。つまり2027年に法が適用される時点で、先端AIを外から止める仕組みがニューヨーク州にあるとは、いまのところ言えない。

ここから言えることは一つである。いまの州法が縛っているのは、開発企業が何を公表し、事故をいつまでに知らせるかであって、AIが動き続けるかどうかではない。しかもその義務は、節03で見るとおりAIを使う側には及ばない。だから、AIを業務に入れている組織は、州の停止装置を待たずに、自分の業務でAIを止める条件と、止めたときの記録を自前で決めておく必要がある。

以下では、この結論を、法の中身、対象の範囲、二つの州の経緯、期限と罰金の数字、そして今後に分けて確かめる。

02RAISE法の義務は安全方針の公表と72時間以内の事故報告である

前節で決まった部分とした登録と報告について、法が誰に何を求め、違反に何を科すのかを見ておく。RAISE法の対象は、最も大きな計算量で訓練されたAIモデルを開発する企業である。2025年12月にホークル知事が署名し、先に成立していたカリフォルニア州の枠組みを土台に組み立てられた。

義務の中心は二つある。一つは安全方針の公表で、壊滅的なリスクをどう評価し、どう備えるかを文書にして示す。もう一つは事故の報告で、重大な安全事故を72時間以内に州へ知らせる。報告の受け手は、州金融サービス局の中に置かれるDIGIT室である。

違反への備えは民事罰である。報道によれば、上限は初回100万ドル、再違反で300万ドルで、執行は州の司法長官が担う。売上が5億ドルを超える企業には追加の義務がかかるとも報じられているが、法文での正確な基準を私は確かめられていない。

ここで境界を引いておく。この法の流れは、登録、公表、報告、執行で閉じている。どこにも、AIの動作を止めさせるという段がない。州が事故を知る仕組みはできたが、知ったあとで動作を止めさせる権限は、この法には書かれていない。停止装置が、施行の発表とは別に検討の対象として語られたのはそのためである。

言い換えれば、RAISE法が開発企業に求めているのは、何が起きたかを期限内に州へ知らせることと、あらかじめ備えを公表しておくことの二つに尽きる。安全を確保する手段そのものは、各企業の安全方針にゆだねられている。

03義務を負うのは開発企業で、AIを使って審査や判断をする組織は対象外である

前節で見た義務がどこまで届くかを確かめると、届く先はかなり狭い。RAISE法も、先行するカリフォルニア州のSB 53も、対象を先端モデルの開発企業に絞っている。SB 53では、年間売上5億ドル超という基準が使われている。

表の右の列が、多くの読者の立場である。AIを使って文書を審査し、業務の判断をする企業は、二つの州法の報告義務を負わない。資材の審査に生成AIを使う企業も、この点では同じ側にいる。

その結果、利用の現場で起きた誤りは、州への報告の流れに乗らない。AIが誤った要約を出し、それをもとに誤った判断がされても、それが開発企業の定める重大な安全事故に当たらない限り、記録はその組織の中にしか残らない。記録を残すかどうか自体が、使う側の判断にゆだねられている。

表の最後の行には、一つだけ例外を書いた。EU域内で高リスクとされる用途では、利用の場で人が安全に止められる手順が求められている。これは節06で改めて扱う。

04停止装置が後回しになるのは、止める条件がまだ定義されていないからだと読める

前節の配置、つまり開発企業には報告の義務があり、利用する側には何もないという配置は、偶然にできたものではない。二つの州の経緯をたどると、停止より報告が先に置かれてきた順番が見える。

カリフォルニア州では、2024年に審議されたSB 1047が、先端モデルを停止できる能力を開発企業に求めていた。ニューサム知事は2024年9月29日にこの法案に拒否権を行使した。翌2025年9月に成立したSB 53は方向を変え、安全方針の公表と事故の報告を軸にした。

ニューヨーク州はその後を追った。2025年12月にRAISE法が署名され、2026年9月21日に施行の手順が示された。停止装置は、その発表の中で、これから研究する事柄として語られた。

カリフォルニア州も9月18日、停止装置の開発を進める行政命令を出した。命令は、独立した確認機関が停止装置の効き目を継続して確かめることを掲げている。裏を返せば、効き目を誰がどう確かめるかが決まらないうちは、停止を法の義務として書けないということである。

止めるという措置は、いつ止めるのか、止めたら何が起きるのか、止めたことが正しかったかを誰が判定するのか、を先に決めなければ条文にならない。報告にはその前提が要らない。起きたことを期限内に知らせればよい。二つの州がそろって報告から始めたのは、定義できることから法にしたからだと私は読む。これは出典に書かれた理由ではなく、経緯の順番からの私の推論である。

05報告の期限は州ごとに72時間と15日に分かれ、罰金の上限はほぼ同じだ

前節で、報告が停止より先に置かれた経緯を見た。では、その報告は実際にどの速さと重さで動くのか。二つの州の数字を並べる。

期限の差は大きい。ニューヨーク州は重大事故の報告を72時間以内に求める。カリフォルニア州は発見から15日以内で、死亡や重い傷害の切迫した危険があるときだけ24時間に縮まる。同じ種類の事故でも、どちらの州の法に照らすかで、州が事故を知るまでの時間が変わる。

罰金の上限は近い。ニューヨーク州は初回100万ドル、再違反300万ドル、カリフォルニア州は1件100万ドルである。適用の開始はカリフォルニア州のほうが1年早い。先に始まった州の運用が、後から始まる州の手本になりうる順番である。

表の最後の行が示すとおり、停止装置はどちらの州でも、まだ法の数字の中に入っていない。いま数えられる義務は、期限と金額だけである。

06報告の制度は事実を集めるが、止める判断は使う側の手順に残る

前節の数字をまとめると、報告は速く、止める仕組みはない、という状態になる。ここから、AIを使う組織の判断を変える事柄を三つ取り出す。

一つ目は、事故が公の記録になることである。これまで開発企業の内部にとどまっていた重大事故が、期限つきの義務によって州に集まる。期限があるので、報告するかどうかを後から調整する余地は小さい。使う側にとっては、自分が使うモデルに何が起きたかを知る手がかりが、これから増えることを意味する。ただし、州が集めた報告をどこまで公開するかは、今回の発表からは読み取れない。

二つ目は、罰金の上限が企業の規模に対して小さいことである。追加の義務がかかると報じられたのは売上5億ドルを超える企業で、その企業に対して上限は初回100万ドルにとどまる。報道によれば、知事は罰金の引き上げにも触れた。いまの数字のままなら、報告を促すのは罰金の額よりも、報告しなかったことが後で記録として明らかになることのほうだろう。

三つ目は、止める権限を置く場所である。EU AI法の14条4項(e)は、高リスクAIについて、人が停止ボタンや同様の手順でシステムを中断し、安全な状態で止められるようにすることを求めている。この規定は、止める手段を利用の場に置いている。州の停止装置を待たなくても、使う側は自分の業務の中に止める手順を組める。

手順は四つの段で書ける。どの誤りや逸脱が出たら止めるかを先に決め、兆候を日時と出力とともに記録し、責任者が止めるかどうかを判断し、止めたら作業を人の手に戻す。どの段も、州法が求めていないから省いてよいものではない。州法が開発企業に求めている公表と記録を、使う側が自分の範囲で行う形になる。

07停止装置が法になるかは、効き目の確かめ方が示されるかにかかっていると読める

前節で、止める手順は使う側に置けると見た。では州の停止装置は、今後どの条件で法になりうるのか。分かっていることと、分かっていないことを分けて書く。

分かっていることは二つある。カリフォルニア州の行政命令は、2か月以内に専門家の指針をまとめることと、独立した機関が効き目を継続して確かめることを掲げた。ニューヨーク州は、次の施政方針に向けて停止装置を研究するとした。

分かっていないことは三つある。何が起きたら止めるのかという条件、止めたことで生じた損失を誰が負うのかという責任、止めたことが効いたかをどう測るのかという方法である。どちらの州も、この三つをまだ公表していない。

ここからは推論である。カリフォルニア州の指針が効き目の確かめ方を具体的に示せば、ニューヨーク州がそれを土台にする可能性はある。RAISE法がカリフォルニア州の枠組みを土台にした前例があるからだ。逆に、確かめ方が示されなければ、停止装置は検討の段階にとどまり続けるだろう。どちらになるかは、いまの時点では確かめられない。

どちらになっても、使う側の準備は変わらない。州の停止装置ができたとしても、それは開発企業に向けた仕組みであり、自社の業務で出た誤りを止めるのは自社の手順である。

AIを止める権限を州がまだ持たないいま、先端AIの安全を縛っているのは安全方針の公表と事故報告の期限である。停止装置が法になる日を待つのではなく、AIを使う組織は、止める条件と記録を自分の手順として先に持っておく。

州法が開発企業に求めている公表と報告は、使う側にとっても手本になる。何が起きたら止めるか、止めたことをどこに記録するかを、いま自分の手順として書いておく。