WEBVTT

00:00:00.000 --> 00:00:07.506
AIの力が大きくなったとき、その使い道を決めるのは誰なのか。

00:00:07.506 --> 00:00:15.012
今日の出来事を並べてみると、私にはどれもこの問いに行き着くように見えました。

00:00:15.012 --> 00:00:22.519
作った会社が、強いモデルを渡す相手を自分で選んだこと。

00:00:22.519 --> 00:00:30.025
危うさを訴える経営者に、同じ業界から強い反論が出たこと。

00:00:30.025 --> 00:00:37.531
お金を貸す会社と物を売る会社が、同じ一社になりつつあること。

00:00:37.531 --> 00:00:45.037
答えが合っているかを確かめる役まで、AIに任せる研究が進んでいること。

00:00:45.037 --> 00:00:52.544
製薬の現場でAIを選ぶとき、性能を比べるだけでは、もう判断がつきません。

00:00:52.544 --> 00:01:00.050
誰が使い道を決め、誰が確かめるのかを、今日の出来事から考えます。

00:01:00.050 --> 00:01:06.880
作った会社が、自分の最も強い製品の配り先を、自分の手で絞りました。

00:01:06.880 --> 00:01:13.710
強いモデルほど早く、広く売る。

00:01:13.710 --> 00:01:20.540
それがこれまでの順番でしたが、今回は逆になっています。

00:01:20.540 --> 00:01:27.370
配り先を絞るということは、性能が上がるほど危うさも増すと、開発元自身が認めたということです。

00:01:27.370 --> 00:01:34.200
最初に渡す相手を守りの専門家にしたのは、悪用されたときの害を、

00:01:34.200 --> 00:01:41.030
広く出す前に測っておきたいからだと私は読みました。

00:01:41.030 --> 00:01:47.860
一方で、縛りを外した版も考えているとされますから、絞るのは一時の判断かもしれません。

00:01:47.860 --> 00:01:54.690
主力の製品を、売る前に限られた相手だけに使わせて試す。

00:01:54.690 --> 00:02:01.520
この順番からは、AIが誰でも使える道具から、扱う側の資格が問われる道具へ移りつつあることが

00:02:01.520 --> 00:02:08.350
見えてきます。

00:02:08.350 --> 00:02:15.180
市場は発表を前向きに受け止めましたが、早くも不具合を指摘する声が出ています。

00:02:15.180 --> 00:02:22.010
安全のための縛りは、モデルそのものではなく、外から付けたり外したりできる部品です。

00:02:22.010 --> 00:02:28.840
だから同じ名前のモデルでも、どの版を使うかで答え方が変わります。

00:02:28.840 --> 00:02:35.670
社外のAIを使うなら、契約しているのがどの版なのかを、まず確かめておく必要があります。

00:02:35.670 --> 00:02:42.500
この違いが重くなるのは、医薬品の情報や患者さんのデータを扱う部署です。

00:02:42.500 --> 00:02:49.330
性能の比較表だけで選んだのでは、後から理由を問われたときに答えられません。

00:02:49.330 --> 00:02:56.160
誰に配られ、どんな制限が付いた版なのかを、選んだ理由として記録に残しておくことが求められます。

00:02:56.160 --> 00:03:02.990
では、危うさを理由に配り先を絞るという考え方は、業界の中で共有されているのでしょうか。

00:03:02.990 --> 00:03:09.820
実は、その考え方そのものに、強い反発が出ています。

00:03:09.820 --> 00:03:17.488
強いモデルを限られた相手にだけ渡す判断の裏には、AIの危うさを重く見る考え方があります。

00:03:17.488 --> 00:03:25.156
ところが、その考え方を最も強く唱えてきた経営者に、同じ業界の大物たちが詰め寄りました。

00:03:25.156 --> 00:03:32.824
反発したのは、チップを売る側の経営者と、AIの草分けと呼ばれる学者です。

00:03:32.824 --> 00:03:40.493
警告が大げさだという点で二人は重なり、学者のほうは、守りの技術を分かっていないとまで言います。

00:03:40.493 --> 00:03:48.161
ただ、批判する側にも競争上の思惑がある、という見方も出ています。

00:03:48.161 --> 00:03:55.829
表に出ない場でのやり取りだったことからも、対立の深さがうかがえると私は受け止めました。

00:03:55.829 --> 00:04:03.497
私が大事だと思うのは、どちらが正しいかではありません。

00:04:03.497 --> 00:04:11.165
AIの危うさをどれだけ重く見るかが、作る会社ごとに大きく違うという点です。

00:04:11.165 --> 00:04:18.833
その違いは、製品に付ける制限の強さや、公開の早さの差として表に出てきます。

00:04:18.833 --> 00:04:26.501
製薬の会社にとって、これは仕入れ先の考え方を選ぶ話になります。

00:04:26.501 --> 00:04:34.169
同じ用途に使っても、開発元の安全への姿勢しだいで、使える範囲や、

00:04:34.169 --> 00:04:41.837
AIが答えを止める場面が変わるからです。

00:04:41.837 --> 00:04:49.506
どの会社のAIを入れるかを決めることは、その会社の安全の考え方ごと受け入れることでもあります。

00:04:49.506 --> 00:04:57.174
社内の規程を作る人には、開発元の方針を読み解く仕事が加わります。

00:04:57.174 --> 00:05:04.842
では、こうした議論の裏で、AIを動かすお金は誰が出しているのでしょうか。

00:05:04.842 --> 00:05:12.510
安全への姿勢とは別に、資金の流れを追ってみます。

00:05:12.500 --> 00:05:19.807
危うさをめぐる議論が続く一方で、AIを作る会社は、膨大な処理能力を必要としています。

00:05:19.807 --> 00:05:27.114
その費用を誰が払うのかによって、業界の中で誰が強い立場に立つかが決まります。

00:05:27.114 --> 00:05:34.421
今回の流れでは、部品を売る会社が、買い手にお金を貸しています。

00:05:34.421 --> 00:05:41.728
貸したお金は、自社の製品を借りる代金として、そのまま手元に戻ってきます。

00:05:41.728 --> 00:05:49.035
売り手と貸し手が同じ会社なので、自分の製品の需要を自分で作り出しているとも言えます。

00:05:49.035 --> 00:05:56.342
一社に向けた貸し付けとして、目を引く額です。

00:05:56.342 --> 00:06:03.649
開発元が何よりも処理能力の確保を急いでいる、という見方とも合っています。

00:06:03.649 --> 00:06:10.956
裏を返せば、売る側にとっても、それだけ逃せない買い手だということです。

00:06:10.956 --> 00:06:18.264
ただ、売り手が買い手の資金を支える形には、市場から疑いの目も向けられています。

00:06:18.264 --> 00:06:25.571
買い手の成長が止まれば、貸したお金と売った製品の代金の両方が、

00:06:25.571 --> 00:06:32.878
回収できなくなるおそれがあるからです。

00:06:32.878 --> 00:06:40.185
その一方で、設計の道具を売る会社は、大手との提携が伝わって評価を上げました。

00:06:40.185 --> 00:06:47.492
製薬の会社にとって、これは使っているAIが、この先も同じ条件で使えるかどうかの話です。

00:06:47.492 --> 00:06:54.799
開発元が借りたお金で処理能力をまかなっているなら、価格や提供の条件が急に変わることもありえます。

00:06:54.799 --> 00:07:02.106
長く使う仕組みほど、取引先がどんなお金で動いているかを見ておく必要があります。

00:07:02.106 --> 00:07:09.413
では、製薬の会社自身は、AIのためのお金をどこに使っているのでしょうか。

00:07:09.413 --> 00:07:16.720
向かう先は、処理能力ではなく人でした。

00:07:16.730 --> 00:07:24.092
ここまでは、AIを作る側のお金と考え方の話でした。

00:07:24.092 --> 00:07:31.455
ここからは、AIを使う側に目を移します。

00:07:31.455 --> 00:07:38.817
使う側が何にお金を出したかを見れば、その会社がAIの価値をどこに見ているかが分かります。

00:07:38.817 --> 00:07:46.179
国内のある製薬会社は、薬の候補を人で試す段階に進むまでの時間を、大きく縮める目標を掲げました。

00:07:46.179 --> 00:07:53.542
その手段は新しい機械ではなく、事業を買い取って迎え入れた研究者たちです。

00:07:53.542 --> 00:08:00.904
AIの力を引き出すのは、結局のところ使いこなす人だ。

00:08:00.904 --> 00:08:08.266
そういう判断が、この選択から読み取れます。

00:08:08.266 --> 00:08:15.629
期間が半分になれば、患者さんに薬が届くまでの道のりのうち、最初の区間が短くなります。

00:08:15.629 --> 00:08:22.991
開発の費用は時間が延びるほど重くなりますから、会社にとっての意味も小さくないはずです。

00:08:22.991 --> 00:08:30.354
ただし、この目標が縮めるのは、人で試す前の段階までです。

00:08:30.354 --> 00:08:37.716
その後に続く試験の長さは、目標の外に置かれています。

00:08:37.716 --> 00:08:45.078
一方、大きな金額が出てきたのは、新しい会社への出資を集めたとされる数字だけでした。

00:08:45.078 --> 00:08:52.441
いつからいつまでの、何に向けた出資なのかが分からない数字は、投資の勢いを測る根拠にはなりません。

00:08:52.441 --> 00:08:59.803
製薬の実務家として私が大事だと思うのは、AIの導入を道具の購入として見ないことです。

00:08:59.803 --> 00:09:07.165
成果を左右するのは、どんな人を集め、その人たちに何を任せるかのほうです。

00:09:07.165 --> 00:09:14.528
では、集めた人たちがAIの成果を確かめるとき、何に気をつければよいのか。

00:09:14.528 --> 00:09:21.890
AIどうしの答え合わせには、気づきにくい落とし穴があります。

00:09:21.890 --> 00:09:28.569
AIに問題を作らせ、別のAIに解かせて鍛える方法が広がっています。

00:09:28.569 --> 00:09:35.248
人が正解を用意する手間を省けるからです。

00:09:35.248 --> 00:09:41.927
けれども、二つのAIの答えが一致したとき、それは本当に正しいと言えるのでしょうか。

00:09:41.927 --> 00:09:48.606
ある論文は、問題を出す側と解く側が同じ間違いをして、答えが合ってしまう現象を調べました。

00:09:48.606 --> 00:09:55.284
学習の回を重ねるごとに測ると、内部の点数は上がり続けるのに、

00:09:55.284 --> 00:10:01.963
外から見た正しさは横ばいか、下がっていたといいます。

00:10:01.963 --> 00:10:08.642
対策の考え方は単純です。

00:10:08.642 --> 00:10:15.321
問題の元になった資料を、採点する側には見せません。

00:10:15.321 --> 00:10:22.000
元の資料に触れていない採点者なら、出題者と同じ間違いに行き着く見込みは低く、

00:10:22.000 --> 00:10:28.679
偽の合格が減るという理屈です。

00:10:28.679 --> 00:10:35.358
同じ資料を見せたり隠したりしながら何度も問い直す方法では、偽の合格は少ししか減りませんでした。

00:10:35.358 --> 00:10:42.037
効いたのは問い直す回数ではなく、確かめる側が独立していることでした。

00:10:42.037 --> 00:10:48.716
もっとも、これはまだ他の研究者による審査を受けていない研究です。

00:10:48.716 --> 00:10:55.394
偽の合格がなくなったわけでもありません。

00:10:55.394 --> 00:11:02.073
私はここに、製薬の品質保証が長く守ってきた考え方と同じものを見ます。

00:11:02.073 --> 00:11:08.752
作った人と確かめる人を分けなければ、二人に共通する思い込みは見つかりません。

00:11:08.752 --> 00:11:15.431
問い合わせ対応の出来を同じAIに評価させるなら、その点数は正しさの根拠にならないのです。

00:11:15.431 --> 00:11:22.110
確かめる側の独立は、申請の文書を作る仕事や、薬の効く人を選ぶ検査の現場でも、問われ始めています。

00:11:22.100 --> 00:11:28.833
ここまでの話を、製薬の日々の仕事に近いところで確かめてみます。

00:11:28.833 --> 00:11:35.566
AIの導入は、現場ではどんな形で進んでいるのでしょうか。

00:11:35.566 --> 00:11:42.299
目立つのは、道具を買うのではなく、専門の人を抱えた会社ごと取り込む動きです。

00:11:42.299 --> 00:11:49.032
申請の文書づくりを専門とする会社が、別の会社に買収されました。

00:11:49.032 --> 00:11:55.765
投与前の検査の分野でも、AIを使う会社と別の専門会社が手を組みました。

00:11:55.765 --> 00:12:02.498
確かめる段階から広げる段階までを、一緒に進めるといいます。

00:12:02.498 --> 00:12:09.231
申請の文書は、規制の決まりと医学の両方を知る人でなければ書けません。

00:12:09.231 --> 00:12:15.964
AIが下書きを速くしても、中身に最後の責任を持つのは人です。

00:12:15.964 --> 00:12:22.696
だからこそ、人とAIをまとめて手に入れる形が選ばれているのだと、私は読んでいます。

00:12:22.696 --> 00:12:29.429
投与前の検査は、どの患者さんにどの薬を使うかを決める、最初の判断です。

00:12:29.429 --> 00:12:36.162
ここにAIを入れるなら、なぜその判定になったのかを、後から示せることが欠かせません。

00:12:36.162 --> 00:12:42.895
前の論文が示した確かめる側の独立が、そのまま求められる場面です。

00:12:42.895 --> 00:12:49.628
市場の見通しの数字は大きく割れていますが、話題そのものは、実際に使う段階へ移っています。

00:12:49.628 --> 00:12:56.361
見通しの数字が大きくても、それが自社の判断の根拠になるわけではありません。

00:12:56.361 --> 00:13:03.094
問われているのは、自社のどの仕事に、誰の責任でAIを入れるかです。

00:13:03.094 --> 00:13:09.827
最後に、目立つ話題の陰で静かに進んでいた動きを見ておきます。

00:13:09.827 --> 00:13:16.560
AIを使う責任をめぐる、決まりづくりです。

00:13:16.560 --> 00:13:23.177
華やかな発表ほど注目を集め、決まりの話は後回しにされがちです。

00:13:23.177 --> 00:13:29.794
けれども、製薬の仕事を直接縛るのは、性能ではなく決まりのほうです。

00:13:29.794 --> 00:13:36.412
アメリカでは、多くの州で法の執行を担う長官たちが、国による規制を求めながら、

00:13:36.412 --> 00:13:43.029
州の権限も手放さないよう議会に訴えました。

00:13:43.029 --> 00:13:49.646
誰がAIを取り締まるのか、その線引きはまだ定まっていません。

00:13:49.646 --> 00:13:56.263
別の州では、AIを使って捜索の理由を示すことを、裁判所が認めました。

00:13:56.263 --> 00:14:02.881
AIが出した結論が、公の判断を支える材料として扱われ始めた、と私は読みます。

00:14:02.881 --> 00:14:09.498
作る側の内部の管理も問われています。

00:14:09.498 --> 00:14:16.115
ある開発元は、秘密の情報の扱いを理由に、研究者たちと別れました。

00:14:16.115 --> 00:14:22.732
最先端のモデルほど、国と州、裁判所、作る会社の内部と、いくつもの場所で別々に決まりが

00:14:22.732 --> 00:14:29.349
作られています。

00:14:29.349 --> 00:14:35.967
それを使う製薬の会社は、外の決まりが変わるたびに、自社の規程を見直し続けることになります。

00:14:35.967 --> 00:14:42.584
薬の情報を扱う部署にとって、AIが出した答えは、いずれ説明を求められる記録になります。

00:14:42.584 --> 00:14:49.201
誰が使い、誰が確かめたのかを残しておくこと。

00:14:49.201 --> 00:14:55.818
それが外の決まりへのいちばんの備えです。

00:14:55.818 --> 00:15:02.436
問われたときには、自社の判断を説明する材料にもなります。

00:15:02.436 --> 00:15:09.053
今日の出来事を通して見えてきたのは、性能の先にある、使い方と確かめ方の問題でした。

00:15:09.053 --> 00:15:15.670
最後に、その答えをまとめます。

00:15:15.670 --> 00:15:21.351
今日の答えは一つです。

00:15:21.351 --> 00:15:27.033
AIを選ぶときに見るべきなのは、性能の高さよりも、誰が配り先を決め、

00:15:27.033 --> 00:15:32.714
誰がお金を出し、誰が答えを確かめるかです。

00:15:32.714 --> 00:15:38.396
強いモデルが絞られて世に出た今、その条件はこれから少しずつ明らかになっていきます。

00:15:38.396 --> 00:15:44.077
開発元が制限をいつ、どんな根拠で緩めるのか。

00:15:44.077 --> 00:15:49.759
そこに、使う側が判断に使える材料が出てくるはずです。

00:15:49.759 --> 00:15:55.440
明日も、その手がかりを追います。
