Bohnetの6か国実験、信頼は賭けと同じではない── 信じるとは確かめないまま相手に弱みを預けることであり、人は裏切りを同じ額の不運より重く数える。

同僚に仕事を任せるときも、AI が出した要約をそのまま使うときも、人は確かめる手間を省いている。その代わりに、相手が誤っていたときの損は自分で負う。他人を信じることは、リスクを取ることなのか。リスクを取ることではあるが、賭けと同じではない。Iris Bohnet らは 6 か国で、結果を運が決める場合と人が決める場合とを比べた。人が決める場合、参加者は成功の確率がもっと高くないと、危険のある選択を受け入れなかった。

01信じることは賭けに似ているが、人は裏切られた損を不運の損より重く数える

Bohnet らは 2008 年、ブラジル、中国、オマーン、スイス、トルコ、米国の 6 か国で行った実験を発表した。参加者は二つの選択肢から一つを選ぶ。一つは、確実にもらえる取り分である。もう一つは、うまくいくかどうかが分からない、危険のある選択である。

研究者は条件を二つ用意した。片方の条件では、うまくいくかどうかを運が決める。もう片方では、別の参加者が決める。賞金と確率は、二つの条件で同じにした。

別の参加者が決める条件では、参加者は成功の確率がもっと高くなければ、危険のある選択を受け入れなかった。失う金額は同じである。それでも人は、運が悪くて失うことと、人に裏切られて失うこととを、別の損として数えていた。

他人を信じて任せることは、リスクを取ることである。ただし、信じた人が失うのは金額だけではない。人や AI に仕事を任せる前に、成功の確率を見積もるだけでは足りない。相手が誤ったら、自分は何を失うのか。自分は、相手の仕事を確かめる手段を持っているのか。任せる人は、この二つを先に書き出しておく必要がある。

02Mayerらの定義では、信頼は行為でなく「リスクを取る意思」である

別の参加者が結果を決める条件で、参加者は慎重になった。人を信じるとき、人は金額のほかに何を差し出しているのか。「信頼」という語の定義から確かめる。

経営学者の Mayer、Davis、Schoorman は 1995 年に信頼を定義した。三人の言う信頼は、意思である。相手の行動しだいで自分が損をする立場に、自分から身を置いてもよいと思うこと。三人はこの意思を信頼と呼んだ。信頼する人は、相手が自分にとって大事な行動を取ってくれると期待している。相手を監視できるか、統制できるかは、定義の条件に入っていない。

同僚が作った集計表を、検算せずに上司へ出す人を考える。集計が誤っていれば、叱られるのは表を出した本人である。表を出した人は、同僚の仕事しだいで自分が損をする立場に身を置いている。三人は、こういう立場に身を置くことを「弱みを持つ」と呼んだ。

三人によれば、弱みを持つことはリスクを取ることである。そのうえで三人は、信頼そのものを、リスクを取る行為とは区別した。三人にとって信頼とは、リスクを取ってもよいと思う意思のことである。

意思と行為を分けると、説明できる場面が増える。上司に命じられて後輩に仕事を渡す人は、後輩を信じていなくても、仕事を渡している。反対に、同僚を信じている人でも、任せる仕事が無ければ何も渡さない。

03資材の審査は、作成者を信じるかどうかに頼らない手続である

相手を監視も統制もできないとき、仕事を任せる人は相手を信じるしかない。Mayer らが定義した信頼は、相手を監視も統制もできない場面で必要になる。裏を返せば、相手の仕事を確かめる手続がある職場では、信頼に頼る部分が小さくなる。制度がそう作られている例が、医療用医薬品の資材である。

厚生労働省の販売情報提供活動ガイドラインは、資材を使う前に、あらかじめ監督部門の審査を受けることと定めている。承認の責任は、監督部門と経営陣が負う。

Mayer らは、相手を監視している人は信頼に基づくリスクを取っていない、と書いた。資材の審査もこれに当たる。審査する人は、作成者が誠実な人かどうかを判定しなくてよい。作成者が誰であっても、資材は同じ審査を通る。

審査があるからといって、作成者が疑われているわけではない。誤った資材が医療関係者に届けば、失うものが大きい。失うものが大きい仕事には、信じる代わりに確かめる手続が、制度として置かれている。

生成 AI が下書きした資材も、同じ審査を通る。ガイドラインは、資材を誰がどう作ったかによって審査を分けていない。

04結果を決めるのが人だと、人は賭けのときより慎重になる

資材には、使う前の審査という確かめる手続がある。確かめる手続が無い場面では、人は相手を信じるかどうかを自分で決める。Bohnet らの実験の参加者は、相手が結果を決めるとき、賭けをするときより慎重だった。四人は、参加者がどれだけ慎重になるかを数で測った。

四人の測り方はこうである。参加者は、確実な取り分をあきらめて、危険のある選択を受け入れるかどうかを決める。研究者は参加者に尋ねた。成功の確率が最低いくらあれば、危険のある選択を受け入れるか。参加者が答えた値を、最低受容確率と呼ぶ。高い値を答えた参加者ほど慎重である。

二つの条件を比べると、別の参加者が結果を決める条件のほうが、参加者の答えた最低受容確率は全般に高かった。四人は、参加者のこの慎重さを「裏切りへの嫌悪」と名づけた。人は、相手が選んだ結果として被った損を、運で被った同じ額の損より重く数える。これが四人の結論である。

私が確かめたのは、Bohnet らの論文の抄録までである。国ごとの値や、二つの条件の差の大きさは、この記事には書けない。

05AIや自動化に頼る度合いも、利用者の信頼に導かれる

人は、人に裏切られた損を、運が悪かった損より重く数える。では、任せる相手が人でなく機械のとき、人の頼り方はどうなるのか。自動化と AI については、次の研究がある。

Lee と See の論文は 2004 年に出た。自動化の仕組みが複雑になると、利用者は機械の中で何が起きているかを完全には理解できない。そのとき、利用者が機械をどれだけ信頼するかが、どこまで頼るかを導く。二人はそう整理した。

Goddard らの研究と Dietvorst らの研究は、正反対の失敗を報告している。Goddard らが見つけたのは頼りすぎで、Dietvorst らが見つけたのは早すぎる見限りである。Goddard らは 13,821 本の論文を集め、基準に合う 74 本を調べた。調べた対象は、診療の判断を助けるシステムである。利用者は、システムが新しく持ち込んだ誤りを、しばしば見落としていた。

Dietvorst らは 5 つの実験を行った。参加者は、アルゴリズムと人間の予測者が同じ誤りをする様子を見た。誤りを見た後、参加者はアルゴリズムを信用しなくなった。信用を失う速さは、人間の予測者に対するときより速かった。

人は自動化に頼りすぎることもあるし、アルゴリズムを早く見限りすぎることもある。Goddard らと Dietvorst らの研究は、人がどちらの失敗もすることを示している。

06任せる前に、失うもの、裏切られる損、確かめる手段を順に確かめる

機械に任せるとき、人は頼りすぎることも、早く見限りすぎることもある。どちらの失敗に対しても、任せる人が事前に確かめておけることがある。何を確かめればよいかを、私は Mayer らと Bohnet らの研究から引き出した。

任せる人が最初に書き出すのは、相手が誤ったときに自分が失うものである。Mayer らは信頼を、相手しだいで損をする立場に身を置く意思と定義していた。成功の確率を当てることは、定義に入っていない。成功の確率が何割かは、任せる人にも分からないことが多い。自分が失うものなら、任せる人は紙に書き出せる。

任せる前にためらう人は、計算を誤っているとは限らない。Bohnet らの実験では、結果を決めるのが運から人に替わっただけで、参加者はより高い成功の確率を求めた。人は金額の損に加えて、裏切られたという損も数えている。強くためらうときは、金額のほかに何を失うと感じているのかを言葉にするとよい。判断の材料が増える。

任せる人が確かめる手段を持っていれば、相手を信じなければならない部分は小さくなる。資材を使う前に監督部門が審査する制度は、確かめる手段の例である。ただし Mayer らは、確かめる仕組みの弱点も書いている。統制の仕組みが強い職場では、相手が正しく動いても、周りの人は「統制されたからそうした」と受け取る。すると、相手への信頼は育ちにくい。確かめる手続は、誤ったときに失うものが大きい仕事に絞って置くのがよい。私はそう考える。

07AIが自分の意思で動くように見えると、人の信頼は増えることも減ることもある

失うものを書き出す。裏切られたという損を数える。確かめる手段を持つ。この三つは、人が人を信じる場面の研究から出てきた。Mayer らの定義も、意思を持って行動する特定の相手を前提にしている。任せる相手が AI のとき、人は裏切られたと感じるのか。

Puranam と Vanneste は 2021 年の作業論文で、この点を論じた。二人によれば、AI が意思を持つ主体に見えるほど、人は「この AI は自分に好意を持っているか」を気にするようになる。同時に人は、AI に信頼を破られたときの心理的な損を、より大きく見込むようになる。二人の結論では、AI を主体らしく見せると、人が AI に置く信頼は増えることも減ることもある。

Puranam と Vanneste の議論は理論であり、実験の結果ではない。Bohnet らの実験で結果を決めたのは、運か、人間の参加者だった。結果を決めるのが AI である場合に、人はどれだけ高い成功の確率を求めるのか。私が読んだ資料からは分からない。

他人を信じることは、リスクを取ってもよいと思うことであり、信じて任せたとき、人は実際にリスクを取る。ただし、そのリスクは賭けと同じではない。信じて任せる人は、確かめないまま、相手の行動しだいで損をする立場に身を置く。そのうえ人は、裏切られた損を、同じ額の不運より重く数える。

任せる相手が人でも AI でも、確かめる手段を一つ持てば、相手を信じなければならない部分はその分だけ小さくなる。AI の要約を原文と照らす。同僚の作った表の合計を検算する。原文と照らすことも検算することも、相手を疑っているように見える。実際には、自分が失いうるものを減らしている。

仕事を任せる前に、私は二つを書き出す。相手が誤ったときに自分が失うもの。自分が持っている確かめる手段。失うものが大きい仕事では、確かめる手段を使う。確かめる手段が届かない部分と、失うものが小さい仕事が残る。残った部分を、私は相手を信じて任せる。