WEBVTT

00:00:00.000 --> 00:00:06.749
新しいモデル群GPT-6が出たその日、作り手は責められていました。

00:00:06.749 --> 00:00:13.498
この動画で、道具を性能だけでは選べない理由が分かります。

00:00:13.498 --> 00:00:20.247
明日も同じ条件で使えるのか。

00:00:20.247 --> 00:00:26.996
製薬の仕事に入れるなら、そこまで確かめる必要があります。

00:00:26.996 --> 00:00:33.744
結論を先に言えば、提供元の足元まで見て、ようやく導入の判断が形になります。

00:00:33.744 --> 00:00:40.493
同じ日、別の開発元は国の防衛部門から強い要求を受けたと伝えられています。

00:00:40.493 --> 00:00:47.242
能力の話から始めて、作り手の統治と、国との距離へ進みます。

00:00:47.242 --> 00:00:53.991
続いて、道具どうしのつなぎ方、使える範囲、規制の向きを見ます。

00:00:53.991 --> 00:01:00.740
最後に、明日から手元で確かめられることを挙げます。

00:01:00.740 --> 00:01:07.372
最初は能力の話です。

00:01:07.372 --> 00:01:14.005
作り手が新しい世代を出すたびに、私たちが手元の道具を選ぶ基準も変わります。

00:01:14.005 --> 00:01:20.637
今回は何が変わったのでしょうか。

00:01:20.637 --> 00:01:27.269
今回目を引いたのは、一つの名前で一つのモデルを出すのではなく、

00:01:27.269 --> 00:01:33.902
名前の違ういくつものモデルをまとめて出したことです。

00:01:33.902 --> 00:01:40.534
使い手はどれか一つに決めるのではなく、仕事に合わせて選び分けることになりそうです。

00:01:40.534 --> 00:01:47.166
開発元が使い方の手引きを同じ日に出したのも、その前提があるからでしょう。

00:01:47.166 --> 00:01:53.799
画面の事例は、長いあいだ誰にも解けなかった問題を、ある研究者がこの道具で解いたという報道です。

00:01:53.799 --> 00:02:00.431
ただ、その答えをどう確かめたのか、詳しいことは分かっていません。

00:02:00.431 --> 00:02:07.064
驚きの大きい話ほど、私はまず裏づけがあるかどうかを見るようにしています。

00:02:07.064 --> 00:02:13.696
まとめて出るなら、仕事の重さに合わせてモデルを当て分ける使い方も考えられます。

00:02:13.696 --> 00:02:20.328
便利になる分、どの業務にどのモデルを使ったかを記録しておかないと、後から説明がつかなくなります。

00:02:20.328 --> 00:02:26.961
製薬の現場でも、文献の要約や資料の下書きに、こうした道具が使われ始めています。

00:02:26.961 --> 00:02:33.593
宣伝の言葉をそのまま受け取らず、自分の業務で試して確かめる。

00:02:33.593 --> 00:02:40.225
地味な手間ですが、ここを省かないことが最初の守りになると私は考えています。

00:02:40.225 --> 00:02:46.858
ただ、能力の高さだけで道具は選べません。

00:02:46.858 --> 00:02:53.490
同じ日、この作り手自身が、別の問いを突きつけられていました。

00:02:53.500 --> 00:03:01.051
新しい道具を出したその日に、作り手はいくつもの方向から責められていました。

00:03:01.051 --> 00:03:08.602
道具の良し悪しとは別に、作り手の足元にも目を向ける必要があります。

00:03:08.602 --> 00:03:16.154
並んだ出来事に共通するのは、道具が作り手の手を離れた後の管理です。

00:03:16.154 --> 00:03:23.705
自分で動く道具が想定を超えて動き、よその国の役所にまで害が及んだことも、追加で明かされました。

00:03:23.705 --> 00:03:31.256
社内の人の扱いについても、報道によって理由の説明が食い違っています。

00:03:31.256 --> 00:03:38.808
どれも、性能の高さとは関係のないところで起きたことです。

00:03:38.808 --> 00:03:46.359
当局が説明を求めたということは、問題が憶測では済まないところまで来たと受け取れます。

00:03:46.359 --> 00:03:53.910
調べる側は、作り手の言い分だけでは足りないと考えたのでしょう。

00:03:53.910 --> 00:04:01.461
人に代わって手順を進める道具は、便利な分だけ、止める仕組みが欠かせません。

00:04:01.461 --> 00:04:09.012
途中で何をしたのかを人が追えなければ、責任をどこに置けばよいのかが分からなくなるからです。

00:04:09.012 --> 00:04:16.564
製薬会社が外の道具を業務に入れるなら、委託先を審査するときと同じ目で、

00:04:16.564 --> 00:04:24.115
提供元を見る必要があります。

00:04:24.115 --> 00:04:31.666
事故が起きたとき、どこまで情報を出す会社なのか。

00:04:31.666 --> 00:04:39.217
その姿勢は契約の前に確かめておくべきことで、後から知らされたのでは社内への説明が間に合いません。

00:04:39.217 --> 00:04:46.769
作り手を問うのは、当局だけではありません。

00:04:46.769 --> 00:04:54.320
次の場面では、国そのものが、別の作り手に条件を迫っていました。

00:04:54.310 --> 00:05:01.756
別の開発元は、国の防衛部門から強い要求を受けたと伝えられています。

00:05:01.756 --> 00:05:09.202
国と作り手の関係は、使い手から遠い話に見えるかもしれません。

00:05:09.202 --> 00:05:16.648
けれど実際には、手元の業務にまで響いてくる話です。

00:05:16.648 --> 00:05:24.094
争点は、防衛の仕事にこの会社の道具をどこまで使わせるかにあるとみられています。

00:05:24.094 --> 00:05:31.539
ただ、情報の出どころは名前を明かしていません。

00:05:31.539 --> 00:05:38.985
確かな事実として扱うにはまだ早く、争点の中身は続報を待って確かめる必要があります。

00:05:38.985 --> 00:05:46.431
私が注目したのは、同じ日に会社自身が、投資家に向けた書類の中で危うさを認めていたことです。

00:05:46.431 --> 00:05:53.877
政府との関係が、取引先とのつながりや株式の公開に響きうると、会社が自分で書きました。

00:05:53.877 --> 00:06:01.323
報道のとおりなら、これは外からの憶測ではなく、会社が認めた危険です。

00:06:01.323 --> 00:06:08.769
上場を控えた会社は、投資家に向けて、事業の危険を知らせる書類を出します。

00:06:08.769 --> 00:06:16.215
使い手にとってこの書類は、提供元の弱みを知ることのできる、数少ない手がかりです。

00:06:16.215 --> 00:06:23.661
提供元が国と対立すれば、その道具が使えなくなる日が来るかもしれません。

00:06:23.661 --> 00:06:31.106
大事な業務を一社の道具だけに頼っていないか、代わりの手段を持っているか。

00:06:31.106 --> 00:06:38.552
今のうちに確かめておく価値があります。

00:06:38.552 --> 00:06:45.998
提供元の事情で業務が止まったとき、困るのは使い手の側です。

00:06:45.998 --> 00:06:53.444
国との関係は、外から加わる圧力でした。

00:06:53.444 --> 00:07:00.890
次は、道具と道具をつなぐ部分から、内側で安全が損なわれる話です。

00:07:00.890 --> 00:07:07.102
道具を一つずつ使う時代から、いくつもの道具をつないで使う時代に移りつつあります。

00:07:07.102 --> 00:07:13.314
そのとき、安全はどこで守られるのでしょうか。

00:07:13.314 --> 00:07:19.527
この研究が示したのは、受け手の本体に手を加えなくても、間に挟む部品を変えるだけで振る舞いが

00:07:19.527 --> 00:07:25.739
変わるということです。

00:07:25.739 --> 00:07:31.951
受け手を単独で試験して合格していても、つないだ後の安全までは保証されない。

00:07:31.951 --> 00:07:38.163
ここが要点です。

00:07:38.163 --> 00:07:44.376
もう一つの問題は記録です。

00:07:44.376 --> 00:07:50.588
言葉でやりとりしていれば、後から人が読み返せます。

00:07:50.588 --> 00:07:56.800
ところが数値のまま受け渡されると、何が渡ったのかを人は読めず、

00:07:56.800 --> 00:08:03.012
問題が起きても原因をさかのぼれません。

00:08:03.012 --> 00:08:09.224
製薬の仕事では、なぜその判断に至ったのかを説明できることが求められます。

00:08:09.224 --> 00:08:15.437
中身を読めないやりとりを業務の流れに組み込めば、その説明ができなくなります。

00:08:15.437 --> 00:08:21.649
ただし、この結果はまだ査読、つまり他の研究者が内容を確かめる手続きを経ていません。

00:08:21.649 --> 00:08:27.861
結論としてではなく、これから確かめるべき仮説として受け止めるのが妥当だと私は思います。

00:08:27.861 --> 00:08:34.073
複数の道具を組み合わせる仕組みを社内で検討しているなら、やりとりを人が読める形で残すことを、

00:08:34.073 --> 00:08:40.286
導入の条件にしておく。

00:08:40.286 --> 00:08:46.498
今のうちに決めておける守りは、これです。

00:08:46.498 --> 00:08:52.710
では、規制の厳しい他の業界は、道具の使い方をどう決め始めたのでしょうか。

00:08:52.700 --> 00:08:59.663
製薬と同じように、規制のもとで働く業界があります。

00:08:59.663 --> 00:09:06.626
そこで起きていることは、私たちがこれから向き合う課題を先に見せてくれます。

00:09:06.626 --> 00:09:13.589
ここでは医療と法律の世界を取り上げます。

00:09:13.589 --> 00:09:20.553
並んだ動きから分かるのは、議論の中心が、使うかどうかから、どう使うかへ移ったことです。

00:09:20.553 --> 00:09:27.516
大きな予算が付いた医療の取り組みにも、答えの出ていない課題が残っています。

00:09:27.516 --> 00:09:34.479
弁護士の世界では、当局が使い方の決まりを先に示しました。

00:09:34.479 --> 00:09:41.442
私が大切だと思うのは、決まりが外から先に来たという順番です。

00:09:41.442 --> 00:09:48.405
この報道を見る限り、基準は業界の内からではなく、当局の側から示されました。

00:09:48.405 --> 00:09:55.368
製薬でも同じ順番になる見込みは、低くないでしょう。

00:09:55.368 --> 00:10:02.331
使う側が社内の基準を先に持っていれば、外から決まりが来ても慌てずに済みます。

00:10:02.331 --> 00:10:09.294
会社の法律の担当は、導入を終えて、仕事の進め方そのものを組み直す段階に入ったと伝えられています。

00:10:09.294 --> 00:10:16.258
道具を入れても、仕事の順番を変えなければ効果は出ません。

00:10:16.258 --> 00:10:23.221
資材の作成や審査でも同じです。

00:10:23.221 --> 00:10:30.184
道具が下書きを作るなら、人が確かめる場所をどこに置くのか、

00:10:30.184 --> 00:10:37.147
その順番を先に決めておく必要があります。

00:10:37.147 --> 00:10:44.110
ただ、どう使うかを決める前に、そもそも道具を使えるかどうかが、別の場所で揺らぎ始めています。

00:10:44.110 --> 00:10:51.436
ここまで見てきたのは、道具の能力と作り手の統治でした。

00:10:51.436 --> 00:10:58.763
けれど使い手にとっていちばん身近なのは、明日も同じ条件で使えるかどうかです。

00:10:58.763 --> 00:11:06.089
その条件が、場所と相手によって大きく揺れています。

00:11:06.089 --> 00:11:13.415
ある会社は大量の利用枠を無料で配り、別の開発元は使用量を制限していると報じられました。

00:11:13.415 --> 00:11:20.741
正規でない経路での転売が広がる一方で、接続の締め付けに戸惑う利用者もいます。

00:11:20.741 --> 00:11:28.067
同じ道具でも、どこで誰が使うかによって、条件はまったく違ってきます。

00:11:28.067 --> 00:11:35.394
料金は、処理した文章の量で決まる仕組みが一般的です。

00:11:35.394 --> 00:11:42.720
無料で配る側は、利用者を先に取り込もうとしているのでしょう。

00:11:42.720 --> 00:11:50.046
制限する側は、計算資源が足りていないのかもしれません。

00:11:50.046 --> 00:11:57.373
正規でない経路で道具を使えば、入力した情報がどこを通るのかが分かりません。

00:11:57.373 --> 00:12:04.699
製薬の仕事で扱う未公表のデータを、そうした経路に流すことは許されません。

00:12:04.699 --> 00:12:12.025
安く使えるというだけの理由で、出どころの分からない窓口を選ばないことです。

00:12:12.025 --> 00:12:19.351
無料や安さだけで選ぶと、条件が変わった日に業務が止まります。

00:12:19.351 --> 00:12:26.678
契約の形と、接続がどこを通るのかを確かめておく。

00:12:26.678 --> 00:12:34.004
道具を使う条件を自分の手で管理するとは、そういうことだと私は考えます。

00:12:34.004 --> 00:12:41.330
こうした使い手の条件が変わる裏で、国の側の決まりも、静かに形を変えつつありました。

00:12:41.330 --> 00:12:48.377
大きな発表の陰で、あまり注目されなかった動きがあります。

00:12:48.377 --> 00:12:55.423
けれど、長い目で業務に効いてくるのは、むしろこちらかもしれません。

00:12:55.423 --> 00:13:02.470
国の中では、AIの方針を束ねる役を置く見通しが伝えられ、議会や州も、

00:13:02.470 --> 00:13:09.517
制御を離れる道具への対応を話し合い始めました。

00:13:09.517 --> 00:13:16.563
一方で、国どうしの取り決めからは、人が確かめる手順が外されたと伝えられています。

00:13:16.563 --> 00:13:23.610
国内では締める動きが、国と国のあいだでは緩める動きが、同時に進んでいるように見えます。

00:13:23.610 --> 00:13:30.657
方針を束ねる担当者が決まれば、ばらばらだった施策に一つの窓口ができます。

00:13:30.657 --> 00:13:37.703
規制の中身が、この先早く固まるかもしれません。

00:13:37.703 --> 00:13:44.750
制御を離れる道具を規制するという考え方は、使う側の責任を問う方向にもつながりえます。

00:13:44.750 --> 00:13:51.797
作り手だけでなく、使っていた会社がどう管理していたかも、問われるかもしれません。

00:13:51.797 --> 00:13:58.843
記録を残しておくことが、その問いに答える備えになります。

00:13:58.843 --> 00:14:05.890
別の国では、能力を伸ばすことより、国が管理することを優先する法律ができました。

00:14:05.890 --> 00:14:12.937
国ごとに考え方が違えば、海外で同じ道具を同じように使えるとは限りません。

00:14:12.937 --> 00:14:19.983
各国で事業を持つ製薬会社は、その違いを把握しておく必要があります。

00:14:19.983 --> 00:14:27.030
規制の向きは国ごとに違っても、使う側の管理が問われるという点では、どの国も変わりません。

00:14:27.020 --> 00:14:32.832
道具を選ぶとき、性能だけでなく、作り手の足元まで見る。

00:14:32.832 --> 00:14:38.643
今日たどり着いたのは、そのことでした。

00:14:38.643 --> 00:14:44.455
当局とどう向き合っているか、国とどんな関係にあるか、明日も同じ条件で使えるか。

00:14:44.455 --> 00:14:50.267
どれも、導入の判断に直接かかわる問いです。

00:14:50.267 --> 00:14:56.078
明日は、国と開発元のせめぎ合いがどう動くかを追います。

00:14:56.078 --> 00:15:01.890
提供元を見る目を試す、最初の材料になるはずです。
