制約になっていたのは、精度ではなかった
画像診断に人工知能を入れるという話は、たいてい読影の正確さの議論になる。どのモデルがどれだけ当てたか、専門医の判断とどちらが近いか。学会も論文もそこを競ってきた。ところが実際に病院へ置こうとすると、止まる場所が違う。撮った検査をどうやってモデルへ渡すのか。出てきた結果をどの画面のどこに出すのか。読んだ医師が「これは違う」と思ったとき、その評価はどこへ行くのか。そして、いまこの施設でどのモデルが動いているのかを、誰がどうやって確かめるのか。
この論文の著者らは、束縛になっているのはモデルの精度ではなく、この受け渡しの仕組みそのものだと述べている。検査を振り分け、結果を表示し、評価を受け取り、何が動いているかを監査する。地味な配管の側が制約になっている、という診断である。本稿が一次情報とするのは査読を経ていないプレプリントであり、以下はすべて著者らの主張として読む必要がある。
提案しているのは、自前で持てる土台である
提案の芯は一つに絞られる。いま挙げた四つの仕事を引き受ける土台を、外部の事業者に預けず、施設の中に自分で立てられる形で作る。著者らはそれを PACS-AI と呼び、公開している[1]。画像の保管と通信の仕組みは、医療の世界では長く標準化されてきた[3]。その標準の上に、モデルを差し替え可能な部品として載せる面を置く、という設計だと読める。
もう一つ、この論文には設計以外の主張がある。それぞれのモデルについて、どこまで使える段階にあるのかを正直に公表すること自体が、ガバナンスの実践だという位置づけである。性能の数字を出すことではなく、まだここまでしか信用できないと書くこと。それを運用の一部として扱う。土台の話と地続きで、公表の様式まで設計に含めている点が目を引く。
abstract が述べている範囲
著者らは、六つの病院でこの土台を通じて画像人工知能を運用した記録を報告している。ある施設では、血管撮影を扱うモデルが依頼された 607 件のうち 515 件を完了した。割合にして 84.8% である。完了しなかったものについて著者らは、診断に必要な撮像面が含まれていなかったことを反映していると述べている。
臨床医による評価は 638 件集まり、そのうち 78.1% が肯定的だった、とも書かれている。ここまでが abstract に示された範囲であり、これは著者らの報告であって、確立した結論ではない。なお、この論文には読者の票も実装の追随も報道の追随も、収集の範囲では確認できていない。注目が集まっていないことは正しさの証明ではなく、集まっていることも正しさの証明ではない。
現場に置き換えると、どう見えるか
院内に一つの判定モデルを入れる場面を考えると、この論文の主張は次のように分かれて見える。
モデルを良くする方に投じる
学習データを増やし、当たる割合を上げる。評価は論文の指標で測れる。ただし施設に置いた後で起きる不具合、たとえば必要な撮像面が来ないという不具合は、この投資では減らない。
経路を整える方に投じる
どの検査をどのモデルに渡すかの条件を書き、結果の出し方を決め、読んだ側の評価を受け取る道を作る。指標にはなりにくいが、動かない原因の多くはここにある。
論文が言っているのは後者が偉いということではない。前者だけを積み上げても施設では動かない、という順序の話である。動かなかった依頼の原因が「必要な画像が来ていなかった」なのであれば、それはモデルの失敗ではなく、渡し方の失敗として数えるべきものになる。
新しくない部分と、読み取れない部分
自前で運用できる公開基盤を作るという発想そのものは新しくない。院内システムの連携も、画像の標準規格も、人工知能より前から積み上げられてきたものである。この論文が持ち込んでいるのは発想ではなく、複数施設で実際に回した記録と、その過程で何が制約になったかという順位づけだと読むのが妥当だろう。
abstract の範囲では読み取れないことも多い。六つの施設それぞれで何本のモデルが動いたのか。評価を出したのはどの職種の医師か。肯定的という判定は何を基準に付けられたのか。使える段階を表す水準は、どんな段階に区切られているのか。いずれも abstract の範囲では条件が示されていない。とくに、完了しなかった依頼を「モデルの失敗ではない」と切り分ける境界は、引き方によって割合が動く。境界の定義が示されないまま割合だけを受け取るのは危うい。
なぜこの主題が、いま束になっているのか
この論文は単独で立っているわけではない。同じ時期に、暗号資産の規制における資産種別ごとのサステナビリティ開示から得られた教訓を扱う論文が並んでいる[2]。扱う分野はまったく違う。しかし問いは重なっている。何を、どの粒度で、誰に向けて開示するのか。そして開示の様式そのものを制度の一部として設計できるのか。
画像人工知能の側では、それが「このモデルはどこまで使えるかを公表する」という形で出てきた。金融規制の側では、資産の種類ごとに開示の型を分けるという形で出てきた。当サイトの選定では、話題の広がりを票・実装・報道・同じ問いを扱う論文の束という互いに独立した系統で測っている。この主題で立っているのは束だけである。束が立っていることは、研究者が同じ問いに寄っていることを示すだけで、答えが出たことを示すものではない。
資材審査の工程から見ると、どこが接続するか
販売情報提供活動に関わる資材の点検に人工知能を入れる話は、たいてい「どれだけ拾えるか」の議論になる。逸脱を見つける割合、誤検出の割合。この論文が言っているのは、そこではまだ運用に乗らない、ということである。
監査の場面に置き換えると
監査担当:「この資材の判定、どの仕組みが出した結果ですか」
審査担当:「機械が一次で見て、私が確認しました」
監査担当:「その機械は、当時どの版でしたか。適用範囲はどこまででしたか」
答えられなければ、どれだけ拾えたかは意味を持たない。必要なのは、どの資材がどの経路でどの版に渡り、誰がいつ確認し、その判断が後から辿れること。この論文が制約と呼んでいるものは、規制の現場では制約ではなく前提である。
使える段階を正直に公表するという主張も、資材審査の言葉に直せる。この仕組みは何を見ないのかを先に書き出しておくことである。拾える範囲を広告するのではなく、拾わない範囲を宣言する。見逃しの側に何が落ちるのかが書かれていない仕組みは、監査で説明できるものにならない。そこは人工知能の性能の問題ではなく、運用設計の問題として残る。