AI が下書きした資材の誤り、謝る人と責任を負う人は違う── 謝罪は過去に向かい、責任は未来に向かう。その時間差が仕組みの改善を阻む

生成 AI で下書きした資材に誤りが見つかったとき、担当者はその場で頭を下げる。だが、謝った人と、再発を防ぐ責任を負う人は同じだろうか。多くの場合、この二つは分離している。謝罪は過去に向かう行為であり、責任は未来に向かう行為だからだ。

01三十秒の謝罪では、AI が書いた誤りの原因は残る

資材の審査会議で、データの引用元が原論文と食い違っていると分かった場面を考える。下書きには生成 AI を使っていたとする。担当者が「申し訳ありません」と立ち上がり、上長が「分かりました」と頷き、会議は次の議題に移る。かかる時間は三十秒ほどだろう。

この三十秒のあいだに、謝罪はある。では、引用元の食い違いがなぜ起きたのか、AI の出力をどの手順で確認していたのか、確認を省いた事情は何だったのか。その問いへの答えは、三十秒のなかには含まれない。

02謝罪は感情を鎮め、責任は信頼を回復する

謝罪と責任は、外から見ると重なって見える。だが二つの行為の輪郭をたどると、向いている方向が違う。

道で人にぶつかったとき、必要なのは謝罪だけだ。仕組みを変える必要はない。だが、AI を使った資材作成で引用元の誤りが繰り返されるなら、謝罪だけでは足りない。

03AI の普及が、謝罪と責任の距離を広げている

生成 AI が資材の下書きに使われるようになったことで、誤りの発生点と発見点のあいだに新しい層が生まれた。AI が出力し、人間が確認し、別の人間が承認し、さらに別の人間が審査する。誤りが見つかったとき、謝る人は「確認を怠った担当者」になりやすい。だが、責任の所在はもっと複雑だ。AI の出力を確認する手順は明文化されていたか。確認にかけられる時間は十分だったか。そもそも AI を導入する判断をしたのは誰か。

従来は、書いた本人が確認し、誤りがあれば書いた本人が謝り、手順を直した。書く人・確認する人・責任を負う人が同一だった。AI の介在がこの三者を分離させた。謝罪が三十秒で済んでも、責任の所在を特定する作業だけで数日かかる場合がある。

04アーレントの「ゆるしと約束」は謝罪と責任の対だ

哲学者のハンナ・アーレントは、人間が行為の結果を完全には制御できないことを指摘した。そのうえで、二つの能力を対にして論じた。ゆるすことと、約束すること。ゆるすことは過去を解く。約束することは未来を縛る。

謝ることは、相手にゆるしを求める行為だ。責任を取ることは、未来に対する約束をする行為だ。アーレントが強調したのは、この二つがどちらもひとりではできないということだった。ゆるしは相手がいなければ成り立たない。約束も、受け取る人がいなければ意味をなさない。

心理学者のアーロン・ラザールは『On Apology』のなかで、謝罪が効果を持つ条件を四つ挙げた。何をしたかの認識、感情の表出、脆さの表明、そして修復への意志。修復への意志を含んだ謝罪は、すでに責任の入り口に立っている。ただし、入り口に立っただけでは、まだ中に入っていない。

05製薬の資材審査では、謝罪の三十秒後に三つの段階が要る

資材審査の現場で責任を取るとは、具体的には次の三つの段階を踏むことだ。

手順を変えるということは、今までの手順に不備があったと認めることだ。自分だけでなく、チーム全体の仕事の仕方に手を入れることになる。周囲の協力がいる。時間がかかる。効果がすぐには見えない。謝罪が三十秒で終わるのに対して、責任は数か月かかる。この時間差が、多くの現場で謝罪だけで済ませてしまう理由だろう。

06組織の謝罪には感情がなく、仕組みの変更だけが真贋を測る

個人が謝るとき、そこには恥ずかしさ、後悔、あるいは安堵がある。感情が伴うから、謝罪は相手に届く。

組織が謝るとき、感情はない。声明文を読み上げる人と、誤りの原因を作った人が同一であることは少ない。声明文は感情を持たない。

カール・ヤスパースは『責罪論』で罪を四つに分けた。刑事上・政治上・道義上・形而上学上の罪だ。組織の責任が個人の謝罪に還元されるとき、道義上の罪だけが処理され、構造上の問題は手つかずのまま残る。クリス・アージリスが「シングルループ学習」と呼んだ状態だ。表面を直しても、直し方そのものを問い直さなければ、同じ誤りは構造的に繰り返される。

シドニー・デッカーは『Just Culture』で、失敗から学ぶ組織と罰する組織の分岐点を論じた。罰する組織では、謝罪が罰の代わりになる。謝った人は罰を受けたことになり、構造への問いは立たない。学ぶ組織では、謝罪の後に「なぜその手順が誤りを防げなかったか」という問いが続く。

07AI 時代の資材審査は、誤りの記録と責任の事前配分から始まる

AI が資材作成に関わる以上、誤りは起きる。問題は、誤りが起きたときに謝罪で止まるか、責任まで進むかだ。

フランスの哲学者ポール・リクールは「自己への責任は、他者への応答可能性である」と書いた。責任とは、問われたときに答えられる状態を自分のなかに持っておくことだ。謝ることは応答の一つだが、すべてではない。応答のなかに「次はこうする」が含まれていなければ、責任は引き受けられていない。

マーサ・ヌスバウムは『Anger and Forgiveness』で、怒りの転換的形態を論じた。過去への報復ではなく、未来の改善に向かう怒り。誤りを見つけた審査担当者の怒りも、犯人探しに向かえば罰になり、手順の改善に向かえば責任になる。

謝ることは大切だ。間違いに気づいたとき、黙って通り過ぎるより誠実だ。だが、謝ったあとに何をするかで、その謝罪の意味は変わる。

AI が資材作成に関わる時代に、誤りは減らない。むしろ、誤りの発生点と発見点が離れることで、謝罪と責任の距離は広がる。その距離を埋めるのは、感情ではなく仕組みだ。三十秒の謝罪が三か月の改善につながるとき、謝罪は責任の入り口になる。つながらなければ、謝罪は出口になってしまう。