1962年の米国法は、過去の判断を手順で裁いた── 裁いてよいのはそのとき取れた手順であって、あとから見えた結果ではない。基準は動き、記憶は結果に合わせて書き換わる。

1962年、米国は効くことの証明を医薬品の販売の条件に加え、1938年以降に世に出たすべての薬を新しい基準で評価し直すよう求めた。生成AIに下書きさせた資材も、いま同じ読み直しの側にいる。いまの基準で、過去の自分の判断を裁いていいのか。裁いてよいのは、そのとき取れた手順であって、あとから分かった結果ではない。

01過去の判断は、結果ではなく、そのとき取れた手順でなら裁ける

自分の古い判断を持ち出して悔やむとき、人は二つのものを混ぜている。判断した時点で取れた手順と、あとになって見えた結果である。

前者は裁ける。あの日、どの資料を見たか。誰に確かめたか。分からないまま進めた部分はどこだったか。これらは当時の自分にも選べたことなので、選び方の良し悪しを言える。後者は裁けない。結果を物差しにすると、判断の良し悪しではなく運の良し悪しを裁くことになる。

1962年に米国が行ったのは、前者の裁き方だった。新しい基準を過去に遡らせながら、遡った先で見たのは承認した担当者の人柄ではなく、承認を支えた証拠と手順である。この区別は、個人が自分の過去を見直すときにもそのまま使える。私はそう考えている。

021962年の米国法は、1938年以降の全医薬品を新しい基準で見直させた

手順を裁くという形が、国の規模で実行された例を見ておく。1938年の法律は、薬を売る前に安全であることの証明を求めていた。効くかどうかは、条件に入っていなかった。売れてはいた。

1962年の改正法は、ここに有効性の証明を加えた。それだけなら、これから出る薬の話で終わる。この法律が踏み込んだのは、1938年以降に世に出たすべての薬について、当局が有効性を評価し直すことを求めた点である。基準が足され、その基準が過去へ遡った。ここが異例である。

遡った先で当局が見たものが、この話の要である。二十数年前に承認を出した担当者が正しかったか、熱心だったか、善意だったかを問い直したのではない。残っていた証拠を新しい基準で読み直し、その証拠が有効性を支えているかどうかを判定した。評価の対象は、最後まで記録だった。人ではない。

03同じことは、AIに下書きさせた資材の審査でも起きている

基準が動いてから過去の判断が読み直される場面は、六十年前の話では終わらない。いまも続いている。

生成AIに下書きさせた資材は、公開されたあとに新しい規則で読まれる。AIの選別を使った人事の判断も同じである。イリノイ州では2026年1月1日に、AIを使った雇用の判断を結果の偏りで問う改正人権法が効力を持った。すでに導入して動かしている仕組みが、あとから来た基準で見られる側に回った。

このとき、当時の言い分は証拠にならない。読み直す側に残るのは当時の記録だけである。それしか残らない。どの版のモデルに何を渡したか、出てきた下書きのどこを人が直したか、直さなかった部分をなぜ直さなかったか。これらを書いていなければ、読み直す側には結果しか見えない。

04結果を知った人は、その結果を前から読めていたと思い込む

読み直す側に何が起きるのかを、実験の結果で確かめておく。記憶は、そのままでは材料にならない。

フィッシュホフは1975年に、結果を告げられた人がその結果の起こりやすさを高く見積もることを示した。起きたと聞いた出来事について、人は「そうなると思っていた」と答える。2021年、チェンらはこの実験を890人で追試し、同じ偏りを再現した。報告された効果の大きさは0.60である。

つまり、過去の自分を裁こうとする人は、すでに書き換えられた記憶を材料にしている。あのとき自分が何を見込んでいたかという記憶そのものが、結果を知った時点で結果の側へ寄ってしまう。本人にはその移動が見えない。自覚のしようがない。だから「あの時分かっていたはずだ」という感覚は、自分に対しても、同僚に対しても起きる。

05裁けるのは、そのとき何を見て何を残したかという記録である

記憶が結果の側へ寄るのなら、寄らないものを手元に置いておくしかない。判断した時点で書き留めたものだけが、その役に立つ。

残すものは三つでよい。何を見たか。誰に確かめたか。どこまでが分からないままだったか。この三つが書いてあれば、あとから基準が変わっても、変わったのは基準の側だと示せる。

書き方は簡単でよい。資材の審査であれば、「この引用元の原著には当たれていない」「この数値の算出条件が読み取れなかった」と一行ずつ書けば足りる。大げさな体裁はいらない。日付を添えて、分からなかった事柄と、それでも進めた理由まで書いてあれば、数年後の読み手は当時の視界を再現できる。

三つ目が、いちばん書かれない。毎回そうなる。人は自分の判断を記録するとき、根拠にしたものは書き、分からなかったことは書かずに済ませる。すると数年後、その記録は自信の記録として読まれる。当時ためらっていた事実が、どこにも残っていないからである。

06基準そのものが動くので、責めるより残す方が長く効く

見たものと分からなかったことを書き留めておくとして、それを何に使うのか。ここで三つのことが同時に言える。

ひとつ目。結果で裁けば、裁いているのは運になる。道徳的な運と呼ばれる議論は、本人の制御が及ばない部分に評価が左右される状況を扱ってきた。同じ手順を踏んだ二人のうち、たまたま悪い結果を引いた側だけが責められるなら、責めているのは手順ではない。

ふたつ目。材料になる記憶は、もう動いている。1975年の実験と2021年の追試が示したのはそこだった。責める場を開く前に、記憶は結果に合わせて整えられている。

三つ目。基準そのものが撤回されることがある。コロラド州は2024年に、高リスクのAIに相応の注意を求める法律を作った。しかし2026年5月14日、州は一度置いた広い差別責任と毎年の影響評価の義務を外す新法を成立させた。いまの基準を絶対の物差しとして過去に当てるなら、その物差し自体が二年で作り直されている。

07いま作っている仕組みは、2027年以降の基準で読まれる

基準が二年で作り直されるなら、次に来る基準の形も見ておいたほうがよい。少なくともひとつは、日付が決まっている。2027年である。

欧州の規則は、高リスクに分類されるAIについて、稼働している間の出来事を自動で記録できる作りであることを求めている。この条の適用は2027年12月2日から始まる。いま設計している仕組みは、その日以降の基準で読み直される側に回る。

そのとき残っているのは、当時の言い分ではない。当時の記録である。ここまで書いてきたことは、結局その一点に戻ってくる。ただし、確かめられていないことがある。作られた記録を誰がどこまで読めるのかは、まだ決まっていない。作れという義務と、見せろという義務は別のものである。

私が自分の古い判断を見直すときも、同じ順で見ることにしている。結果を先に見ない。あの日の手元に何があったかを先に置く。そのうえで、足りなかったのが材料なのか、手順なのかを分ける。責める場を開くと、そこで止まる。手順を直す場にすれば、次の判断が変わる。

いまの基準で過去の判断を裁いてよいのは、そのとき取れた手順に対してだけである。結果に向けて裁けば運を裁くことになり、次の判断は何も変わらない。

だから、残すべきものは自信の記録ではない。分からなかったことの記録である。数年後に自分の判断を読み返す人がいるとすれば、それはたいてい自分であり、そのとき助けになるのは、あの日ためらった理由が書いてあることのほうだった。