WEBVTT

00:00:00.000 --> 00:00:05.979
同じ日に、向きの逆の二つの動きが並びました。

00:00:05.979 --> 00:00:11.958
米国の役所がAIの作り手を調べ始め、政府はその作り手たちと、

00:00:11.958 --> 00:00:17.937
自分たちで守るという約束を交わしたのです。

00:00:17.937 --> 00:00:23.916
外から縛るのか、内から守らせるのか。

00:00:23.916 --> 00:00:29.894
どちらが本命なのかは、まだ誰にも分かりません。

00:00:29.894 --> 00:00:35.873
それでも製薬の現場では、AIを使う仕事が毎日増えています。

00:00:35.873 --> 00:00:41.852
規則が決まるのを待っていられない使う側は、何を根拠に道具を選び、どこまで任せればよいのか。

00:00:41.852 --> 00:00:47.831
私はその答えを、規則の揺れとお金の向き、道具の計算を支えるソフト、

00:00:47.831 --> 00:00:53.810
そして記録の残し方の中に探してみます。

00:00:53.810 --> 00:01:00.074
今朝いちばんの知らせは、AIの作り手が調べられる側に回ったというものでした。

00:01:00.074 --> 00:01:06.338
作った道具が使う人を傷つけていないかを、政府の機関が問い始めたのです。

00:01:06.338 --> 00:01:12.602
使う側の私たちにも、これは関わってきます。

00:01:12.602 --> 00:01:18.866
これで、危うさを誰が判断するのかが変わります。

00:01:18.866 --> 00:01:25.130
これまでAIの危うさは、作り手が自分の口で語るものでした。

00:01:25.130 --> 00:01:31.394
これからは、外部の機関が証拠を集めて判断します。

00:01:31.394 --> 00:01:37.658
しかも調べる理由は遠い未来の心配ではなく、いま使っている人に及ぶ害です。

00:01:37.658 --> 00:01:43.922
賢いとされる道具も、ほかの売り物と同じ基準で、安全かどうかを問われ始めたのです。

00:01:43.922 --> 00:01:50.186
多くの報道機関が一斉に伝えたことからも、一度きりの騒ぎでは終わらない重みがある、と私は

00:01:50.186 --> 00:01:56.450
受け止めています。

00:01:56.450 --> 00:02:02.714
この機関は、もともと物を買う人を守るのが仕事です。

00:02:02.714 --> 00:02:08.978
その機関が乗り出したことで、AIの危うさは、作り手と使い手のあいだの取引の問題として

00:02:08.978 --> 00:02:15.242
扱われることになります。

00:02:15.242 --> 00:02:21.506
作り手の善意に任せておく時期は終わりに近づいている、と私は見ています。

00:02:21.506 --> 00:02:27.770
製薬の仕事にとって、これは遠い国の話ではありません。

00:02:27.770 --> 00:02:34.034
社内で使っている道具の作り手が調べを受ければ、使える条件が途中で変わることもありえます。

00:02:34.034 --> 00:02:40.298
どの道具を、どの仕事に、どんな確かめ方で使ったのか。

00:02:40.298 --> 00:02:46.562
その記録を残している会社は、条件が変わっても慌てずに済みます。

00:02:46.562 --> 00:02:52.826
ところが、調べが動き出したその日、作り手たちは別の場所で、

00:02:52.826 --> 00:02:59.090
自分たちで守るという約束を交わしていました。

00:02:59.090 --> 00:03:05.710
同じ日に、政府は向きの違う二つのやり方を並べたことになります。

00:03:05.710 --> 00:03:12.331
外から縛るやり方と、内から守らせるやり方です。

00:03:12.331 --> 00:03:18.952
どちらが本命かによって、使う側の備え方は変わってきます。

00:03:18.952 --> 00:03:25.572
二つを並べると、違いは罰の有無にあります。

00:03:25.572 --> 00:03:32.192
署名した約束は、守らなかったときにどうなるのかがはっきりせず、拘束力を疑う声が出ています。

00:03:32.192 --> 00:03:38.813
調べのほうは、結果しだいで法の執行につながります。

00:03:38.813 --> 00:03:45.434
縛る力の弱い約束と法の執行につながる調べを同時に走らせているのは、

00:03:45.434 --> 00:03:52.054
政府がまだ方針を決めきれていないからだと私は読みます。

00:03:52.054 --> 00:03:58.674
そのうえ署名した文書には初歩的な誤りまで見つかり、約束の重みを疑わせる話が、

00:03:58.674 --> 00:04:05.295
署名の当日から加わりました。

00:04:05.295 --> 00:04:11.916
AIを作ってきた人たちの見方も割れています。

00:04:11.916 --> 00:04:18.536
長く研究を率いてきた人は、人類が滅びる危うさを軽く見るなと警告しました。

00:04:18.536 --> 00:04:25.156
一方で、計算用の半導体を売る会社の首脳は、心配ならやめればよいと突き放しています。

00:04:25.156 --> 00:04:31.777
作る側のあいだでさえ危うさの見立てがそろわないのなら、守るという約束の中身も、

00:04:31.777 --> 00:04:38.398
署名した人ごとに違ってくるはずです。

00:04:38.398 --> 00:04:45.018
製薬の仕事は、法律による規制と業界の申し合わせを重ねて、ルールを守ってきました。

00:04:45.018 --> 00:04:51.639
どちらか片方だけでは足りないことを、現場の人はよく知っています。

00:04:51.639 --> 00:04:58.259
だから外の規則が固まるのを待たずに、社内でAIを使ってよい範囲を先に決めておくことになります。

00:04:58.259 --> 00:05:04.880
約束と調べのあいだで規則が揺れる一方、AIの計算を支えるソフトの側でも、

00:05:04.880 --> 00:05:11.500
国どうしの線引きが進んでいました。

00:05:11.500 --> 00:05:18.357
ここからは、規則ではなく道具の中身の話です。

00:05:18.357 --> 00:05:25.214
国と国の対立は、目に見える半導体だけでなく、それを動かす目に見えないソフトにまで及び始めました。

00:05:25.214 --> 00:05:32.071
狙われているのは、半導体そのものではありません。

00:05:32.071 --> 00:05:38.928
計算用の半導体は、その上で動くソフトと組になって、はじめて性能を出します。

00:05:38.928 --> 00:05:45.785
一社の優位は半導体だけでなく、そのソフトにもあると報じられています。

00:05:45.785 --> 00:05:52.642
多くの開発者が、そのソフトの使い方に慣れているからだと私は見ています。

00:05:52.642 --> 00:05:59.499
同じ役目のソフトを誰でも使える形で作り直せば、開発者が別の半導体へ移る手間は小さくなります。

00:05:59.499 --> 00:06:06.356
二つの会社は、その手間を減らして、一社に頼らずに済む道を開こうとしています。

00:06:06.356 --> 00:06:13.214
一社の強さは、半導体の速さだけから生まれたものではありません。

00:06:13.214 --> 00:06:20.071
長い年月のあいだに、開発者の書き方の習慣と、書きためたプログラムを自社の側に集めてきた結果だ、と

00:06:20.071 --> 00:06:26.928
私は見ています。

00:06:26.928 --> 00:06:33.785
そこが崩れれば、どの半導体を選ぶかの理由も変わります。

00:06:33.785 --> 00:06:40.642
製薬の研究や解析も、同じソフトと半導体の上で動いています。

00:06:40.642 --> 00:06:47.499
それが国ごとに分かれていけば、使える道具が性能ではなく、取引や規制の都合で決まることも

00:06:47.499 --> 00:06:54.356
ありえます。

00:06:54.356 --> 00:07:01.213
海外の拠点と同じ解析を回している会社ほど、この分かれ目の影響を受けやすいはずです。

00:07:01.213 --> 00:07:08.070
ソフトの側で国どうしの線引きが進むなか、医療に的を絞った大きなお金も、製薬会社の外で動きました。

00:07:08.060 --> 00:07:15.525
お金がどこへ向かうかを見ると、次にどこが伸びると考えられているかが分かります。

00:07:15.525 --> 00:07:22.991
今日いちばん大きな額は、製薬会社の中ではなく、会社の外に新しくできた組織に向かいました。

00:07:22.991 --> 00:07:30.456
作ったのは、製薬会社や巨大な技術企業でAIに携わってきた人たちです。

00:07:30.456 --> 00:07:37.921
医療に的を絞った研究の場を、特定の会社の外に立ち上げました。

00:07:37.921 --> 00:07:45.386
医療のAIを進める担い手が、製薬会社の内側だけではなくなったということです。

00:07:45.386 --> 00:07:52.852
ただし、誰がお金を出し、何に使うのかは、この記事の範囲では分かりません。

00:07:52.852 --> 00:08:00.317
製薬会社と組むのかどうかも分かりません。

00:08:00.317 --> 00:08:07.782
中身が見えないまま、額だけが先に伝わってきた形です。

00:08:07.782 --> 00:08:15.248
しかもこの額は、払い終えたお金ではなく、払うと言った段階の約束です。

00:08:15.248 --> 00:08:22.713
約束の額は、状況しだいで小さくなることもあります。

00:08:22.713 --> 00:08:30.178
見出しの額の大きさだけで、この分野にお金が流れ込んでいると決めつけるのは早い、と私は考えます。

00:08:30.178 --> 00:08:37.644
約束が本物かどうかは、実際に払われた記録が出てきてはじめて分かります。

00:08:37.644 --> 00:08:45.109
製薬の実務家は、開発計画の発表と実際の承認とのあいだにある差を、日々見ています。

00:08:45.109 --> 00:08:52.574
お金の約束にも、同じ用心が要ります。

00:08:52.574 --> 00:09:00.039
誰が出し、いつ払われたのかを確かめてから、組む相手として考えることになります。

00:09:00.039 --> 00:09:07.505
お金の話から、AIが実際に操作を進める場面へ移ります。

00:09:07.505 --> 00:09:14.970
そこには、見逃されやすい危うさがありました。

00:09:14.980 --> 00:09:21.347
自分で操作を進めるAIが、職場に入り始めています。

00:09:21.347 --> 00:09:27.714
そこで問われるのは、どの操作が危ないのかを、いつ、何を見て見分けるかです。

00:09:27.714 --> 00:09:34.081
この研究が示した筋道は単純です。

00:09:34.081 --> 00:09:40.448
最初の依頼で、文書を見られる人の範囲を広げておく。

00:09:40.448 --> 00:09:46.815
次の依頼で、ごく普通の写しを作る。

00:09:46.815 --> 00:09:53.182
どちらの依頼も、それだけなら害はありません。

00:09:53.182 --> 00:09:59.549
ところが二つが続くと、社内の原稿が社外から読める場所に出てしまいます。

00:09:59.549 --> 00:10:05.916
危うさは依頼の言葉の中にはなく、前の操作が残した状態の中にあったのです。

00:10:05.916 --> 00:10:12.283
だから、依頼の言葉だけを調べる守り方では止められません。

00:10:12.283 --> 00:10:18.650
一つずつ見れば、どの依頼にも止める根拠が無いからです。

00:10:18.650 --> 00:10:25.017
操作を実行する直前に、いまの設定がどうなっているかを読みに行けば、二つの重なりに気づけます。

00:10:25.017 --> 00:10:31.384
守る側が見るべきものが、言葉から状態へ移るということです。

00:10:31.384 --> 00:10:37.751
ただし、この論文はまだ専門家による審査を受けていません。

00:10:37.751 --> 00:10:44.118
効き目が確かかどうかは、これから他の研究者が試すことになります。

00:10:44.118 --> 00:10:50.485
製薬には、外に出してはいけない文書がたくさんあります。

00:10:50.485 --> 00:10:56.852
承認前の資料や、患者に関わる記録です。

00:10:56.852 --> 00:11:03.219
AIに操作を任せるなら、閲覧の設定がいまどうなっているかを、操作の前に確かめる仕組みが要ります。

00:11:03.219 --> 00:11:09.586
操作の記録を後から読むだけでは、漏れた後でしか気づけません。

00:11:09.586 --> 00:11:15.953
状態を確かめるという考え方は、AIが生み出したものの出どころを残す動きにもつながります。

00:11:15.953 --> 00:11:22.320
その動きは、私たちの仕事のすぐそばでも起きています。

00:11:22.320 --> 00:11:28.372
AIが生み出したものは、あとから見ても、誰がどうやって作ったのか分からないことがあります。

00:11:28.372 --> 00:11:34.423
その出どころを、どこに、どうやって残すのか。

00:11:34.423 --> 00:11:40.475
それが次の問いです。

00:11:40.475 --> 00:11:46.526
一つは、AIが設計した物質そのものに印を残す試みです。

00:11:46.526 --> 00:11:52.578
物質の働きを損なわずに印を埋め込めれば、あとで出どころをたどれます。

00:11:52.578 --> 00:11:58.629
もう一つは、ある製薬会社が、AIを社内に広げる前に、基礎になる台帳のデータをそろえ始めた

00:11:58.629 --> 00:12:04.681
動きです。

00:12:04.681 --> 00:12:10.733
AIのモデルより先に、その下で使うデータを整える順番を選んだことになります。

00:12:10.733 --> 00:12:16.784
どちらも、生み出したものと使ったデータを、あとで説明できる形にしておこうとしています。

00:12:16.784 --> 00:12:22.836
印が役に立つのは、中身の働きを変えないときだけです。

00:12:22.836 --> 00:12:28.887
印を入れたせいで働きが落ちるなら、誰も入れたがりません。

00:12:28.887 --> 00:12:34.939
働きを損なわずに入れられると示されたことで、出どころを残すことが、

00:12:34.939 --> 00:12:40.991
使う側にとっても現実に選べる手段に近づいた、と私は見ています。

00:12:40.991 --> 00:12:47.042
製薬の仕事は、もともと記録によって信頼を得てきました。

00:12:47.042 --> 00:12:53.094
誰が、いつ、何を確かめたのかを示せなければ、提出した書類は受け取ってもらえません。

00:12:53.094 --> 00:12:59.145
AIを使うようになっても、この原則は変わりません。

00:12:59.145 --> 00:13:05.197
出どころの記録と台帳がどこまで整っているかが、AIに任せられる仕事の範囲を決めていく、と私は

00:13:05.197 --> 00:13:11.248
考えます。

00:13:11.248 --> 00:13:17.300
ただ、出どころの記録や台帳を整える話とは別に、まだ誰も答えを出していない点も残っています。

00:13:17.300 --> 00:13:25.676
大きく報じられた話の外に、まだ定まらないことがいくつもあります。

00:13:25.676 --> 00:13:34.052
何が分かっていないかを並べてみると、今日の大きな話に欠けているものも見えてきます。

00:13:34.052 --> 00:13:42.428
危ういAIについて議会が問う場に、ある大手の首脳は出ない見通しです。

00:13:42.428 --> 00:13:50.803
調べを受けている最中に説明の場を避ければ、会社への信頼が揺らぎかねません。

00:13:50.803 --> 00:13:59.179
今日から効力を持つ新しい法律も報じられましたが、どの法律なのか、中身はまだ分かりません。

00:13:59.179 --> 00:14:07.555
ある開発元は、他国の人気のモデルに強い攻撃の力があると主張しました。

00:14:07.555 --> 00:14:15.931
けれども、この記事の範囲では、その主張を外部が確かめたという話は見当たりません。

00:14:15.931 --> 00:14:24.307
競争相手についての主張は、裏付けが出るまで判断には使わないほうが安全です。

00:14:24.307 --> 00:14:32.683
分からないことを、分からないまま記録しておくのも、実務の大事な技術です。

00:14:32.683 --> 00:14:41.058
確かめた話と確かめていない話を分けて扱っておけば、あとで判断を誤りにくくなります。

00:14:41.058 --> 00:14:49.434
規則の中身が明らかになった日に社内の決まりをすぐ直せるのも、不明な点を書き留めていた会社です。

00:14:49.434 --> 00:14:57.810
では、確かな話と分からない話を分けて記録したうえで、使う側が頼れるものは何なのでしょうか。

00:14:57.820 --> 00:15:05.380
使う側が頼れるのは、作り手の約束の言葉ではなく、自分の手で確かめることのできる記録のほうです。

00:15:05.380 --> 00:15:12.940
外の規則が揺れても、道具の状態と出どころを自分で確かめる手段を持つ会社は、慌てずに済みます。

00:15:12.940 --> 00:15:20.500
明日は、調べを受けた作り手たちがどう応じるかを見ます。

00:15:20.500 --> 00:15:28.060
言葉で応じるのか、記録を出して応じるのか。

00:15:28.060 --> 00:15:35.620
その違いが、約束がどこまで本気かを判断する最初の材料になります。
