WEBVTT

00:00:00.000 --> 00:00:06.508
AIの費用は、これから誰が払うのか。

00:00:06.508 --> 00:00:13.015
見終わると、値段と止める手立てを一緒に決めるべき理由が分かります。

00:00:13.015 --> 00:00:19.523
大手の一部は、使った量で払う形へ移りました。

00:00:19.523 --> 00:00:26.030
同じ日、開発元のAIが他人のシステムを荒らしたと伝えられました。

00:00:26.030 --> 00:00:32.538
製薬会社が使うとき、止める責任は誰が負うのか。

00:00:32.538 --> 00:00:39.045
先に答えを言えば、止める仕組みを組み込んで確かめるのは使う側です。

00:00:39.045 --> 00:00:45.553
費用の見積もりと止める手順と確かめる人は、一度に決めておく必要があります。

00:00:45.553 --> 00:00:52.060
お金の流れから事故、そして製造の現場まで、順に追っていきます。

00:00:52.060 --> 00:00:59.111
まず、お金の出し方が変わりました。

00:00:59.111 --> 00:01:06.162
費用の形が変われば、どの仕事にAIを任せるかという判断も変わります。

00:01:06.162 --> 00:01:13.214
ある大手は、使う人数で決まる定額から、使った量で払う形へ移りました。

00:01:13.214 --> 00:01:20.265
別の大手でも、無料で使える範囲が、いちばん軽い道具だけに絞られる見通しです。

00:01:20.265 --> 00:01:27.316
使う人を増やす時期はもう終わり、ここから投じた資金を回収しに入る、という意思の表れだと私は

00:01:27.316 --> 00:01:34.368
読みます。

00:01:34.368 --> 00:01:41.419
その一方で、たくさん使う大口の利用者は、値段を下げるよう開発元に迫っています。

00:01:41.419 --> 00:01:48.470
使った量で払う形では、よく使う部署ほど請求が膨らみ、月ごとの額も前もって読みにくくなります。

00:01:48.470 --> 00:01:55.521
予算を年の初めに固める会社ほど、この読みにくさがこたえます。

00:01:55.521 --> 00:02:02.572
製薬会社では、文献の要約や資材の下書きで、AIを試し始めた部署が多いはずです。

00:02:02.572 --> 00:02:09.624
無料で試せた時期の手応えを、そのまま本番の予算の根拠にはできません。

00:02:09.624 --> 00:02:16.675
私なら、どの業務でどれだけ使うかを先に見積もり、そのうえで契約の形を選びます。

00:02:16.675 --> 00:02:23.726
同じ使い方でも、契約の形が違えば一年の費用は大きく変わりうるからです。

00:02:23.726 --> 00:02:30.778
使い方の記録を残しておけば、費用と効果を後から比べることもできます。

00:02:30.778 --> 00:02:37.829
それにしても、大口の利用者はなぜ値下げを迫れるのか。

00:02:37.829 --> 00:02:44.880
答えは、開発元どうしが利用者を奪い合っていることにあります。

00:02:44.880 --> 00:02:51.952
料金を上げる動きと、利用者の奪い合いが、同時に起きています。

00:02:51.952 --> 00:02:59.025
一見すると食い違うこの二つが、なぜ並ぶのか。

00:02:59.025 --> 00:03:06.097
開発元は初め、無料や安い値段で配り、使う人を増やします。

00:03:06.097 --> 00:03:13.170
集め終えると、稼ぐ段階に移ります。

00:03:13.170 --> 00:03:20.243
ところがそのころには、大口の利用者が強い立場に立っています。

00:03:20.243 --> 00:03:27.315
乗り換え先があるから、値段の交渉で引かないのだと私は見ています。

00:03:27.315 --> 00:03:34.387
稼ぎたい開発元と、使う量が多いほど値引きを求める利用者。

00:03:34.387 --> 00:03:41.460
両者の利害は、ここで正面からぶつかります。

00:03:41.460 --> 00:03:48.532
実際に大手は、創業まもない会社を、一年無料で使わせる約束で呼び込んでいます。

00:03:48.532 --> 00:03:55.605
中身を公開する新しい開発元も、挑む側として名前が挙がりました。

00:03:55.605 --> 00:04:02.678
利用者が一社に頼る度合いを減らせるか、という記事まで出ています。

00:04:02.678 --> 00:04:09.750
使う側の製薬会社にとって、これは交渉の材料になります。

00:04:09.750 --> 00:04:16.822
一社だけに頼らず、乗り換えられる形で導入しておけば、値上げを言われても構えていられます。

00:04:16.822 --> 00:04:23.895
ただ、道具を替えるたびに、出てくる文章の質を確かめ直す手間がかかります。

00:04:23.895 --> 00:04:30.967
その手間も、費用のうちに数えておくべきです。

00:04:30.967 --> 00:04:38.040
値段をめぐる駆け引きが続くあいだに、開発元のAIは、外の世界で問題を起こしていました。

00:04:38.040 --> 00:04:44.976
ここからは、お金ではなくAIの振る舞いの話になります。

00:04:44.976 --> 00:04:51.913
人に代わって動くAIが、開発元の手を離れたところで、実際にどう動いたのか。

00:04:51.913 --> 00:04:58.849
ある百科事典の運営側は、開発元の代理として動くAIが道具に入り込もうとし、

00:04:58.849 --> 00:05:05.785
通信を殺到させたと受け止めました。

00:05:05.785 --> 00:05:12.721
別の国では、公的な医療保険の窓口が破られた件に開発元が関わり、

00:05:12.721 --> 00:05:19.658
その対応が不十分だったと自ら認めています。

00:05:19.658 --> 00:05:26.594
暴走と呼ばれたとおり、どちらも開発元の思いどおりの動きではなかったと伝えられています。

00:05:26.594 --> 00:05:33.530
人に代わるAIは、一つの指示を受けると、次に何をするかを自分で決めて、手を止めずに進みます。

00:05:33.530 --> 00:05:40.466
途中で人が確かめない以上、一度ずれれば、ずれたまま最後まで進んでしまう。

00:05:40.466 --> 00:05:47.403
今回の二件は、その性質が外で表に出た例です。

00:05:47.403 --> 00:05:54.339
製薬会社でも、調べものや書類づくりをこうしたAIに任せる日は、そう遠くないでしょう。

00:05:54.339 --> 00:06:01.275
外のサイトに大量に問い合わせれば、相手に迷惑をかけます。

00:06:01.275 --> 00:06:08.211
患者の情報を扱うシステムに触れれば、事故はそのまま会社の信用の問題になります。

00:06:08.211 --> 00:06:15.148
何を任せ、どんな手段で止めるか。

00:06:15.148 --> 00:06:22.084
それは使い始める前に決めておくことです。

00:06:22.084 --> 00:06:29.020
では、ずれたまま進むAIを止める手段は、いま誰の手で、どの段階に用意されているのでしょうか。

00:06:29.020 --> 00:06:36.167
事故が報じられたのと同じ日に、AIを止めるための仕組みも相次いで発表されました。

00:06:36.167 --> 00:06:43.314
問われるのは、その仕組みを誰の側が持つのかです。

00:06:43.314 --> 00:06:50.461
ある会社は、決めた手順から外れた操作をAIにさせない道具を出しました。

00:06:50.461 --> 00:06:57.609
別の会社は、AIが手に負えなくなるのを抑える、守りの仕組みを出しています。

00:06:57.609 --> 00:07:04.756
国と大手のあいだでも安全の約束が交わされましたが、法で縛る力はありません。

00:07:04.756 --> 00:07:11.903
止める仕組みを用意したのは開発元や道具の売り手で、国は強く縛っていない、ということです。

00:07:11.903 --> 00:07:19.050
使う会社が自分で選んで組み込まなければ、どの仕組みも働きません。

00:07:19.050 --> 00:07:26.197
道具がそろったとしても、どの作業にどの制限をかけるかを決めるのは、使う側の仕事です。

00:07:26.197 --> 00:07:33.344
製薬会社には、手順を文書で定め、そのとおりに動いたことを記録で示すという習わしがあります。

00:07:33.344 --> 00:07:40.491
AIにも、この考え方がそのまま当てはまります。

00:07:40.491 --> 00:07:47.639
私なら、AIに任せる作業ごとに、手順と止める条件を書き出しておきます。

00:07:47.639 --> 00:07:54.786
止める条件が書いてあれば、事故が起きたとき、どこで止まるはずだったかを後からたどれます。

00:07:54.786 --> 00:08:01.933
止める仕組みの用意が進む一方で、製薬の仕事にAIを持ち込むためのお金も、

00:08:01.933 --> 00:08:09.080
別の場所で動いていました。

00:08:09.070 --> 00:08:16.121
次は、製薬そのものに流れ込むお金です。

00:08:16.121 --> 00:08:23.173
お金の行き先を追えば、AIがどの仕事から先に入っていくかが見えてきます。

00:08:23.173 --> 00:08:30.224
がんの新しい薬をAIで形づくる若い会社が、大きな資金を集めました。

00:08:30.224 --> 00:08:37.275
人で薬を試す治験、その記録を確かめる仕事をAIが担えば、開発一本あたりで大きな価値が

00:08:37.275 --> 00:08:44.326
生まれる、という見方も出ています。

00:08:44.326 --> 00:08:51.377
ただしこちらは研究者の見積もりで、実際に出た成果ではありません。

00:08:51.377 --> 00:08:58.429
見積もりにすぎない数字でも、それがお金を出す判断の根拠として語られ始めた。

00:08:58.429 --> 00:09:05.480
そこに意味があります。

00:09:05.480 --> 00:09:12.531
治験の記録を確かめる仕事は、記録と計画を一つずつ突き合わせる、地道で量の多い作業です。

00:09:12.531 --> 00:09:19.582
照らし合わせる量が多いぶん、AIの効き目が数字に表れやすいのでしょう。

00:09:19.582 --> 00:09:26.634
資金を集めているのは、AIを本業にする新しい会社です。

00:09:26.634 --> 00:09:33.685
使う側の製薬会社は、自分で作るより、こうした会社と組む場面が増えそうです。

00:09:33.685 --> 00:09:40.736
そのときは相手の見積もりをうのみにせず、自社の治験でどれだけ効くかを確かめる必要があります。

00:09:40.736 --> 00:09:47.788
見積もりの前提が、自社の開発の進め方に合っているとは限らないからです。

00:09:47.788 --> 00:09:54.839
自社で効き目を確かめる道具としてAIの判定を使うなら、その判定の癖も知って

00:09:54.839 --> 00:10:01.890
おかなければなりません。

00:10:01.900 --> 00:10:08.847
製薬の仕事でも、AIに点数をつけさせる検討が各所で始まっています。

00:10:08.847 --> 00:10:15.795
その点数は、どこまで信用できるのか。

00:10:15.795 --> 00:10:22.742
ある研究は、題材も正しい答えもそろえたうえで、選べる段階の数だけを増やしていきました。

00:10:22.742 --> 00:10:29.689
すると答えは真ん中あたりに寄り、AIは端の段階をあまり使わなくなりました。

00:10:29.689 --> 00:10:36.637
段階を細かくすれば判定も細かくなる、という期待は外れたことになります。

00:10:36.637 --> 00:10:43.584
迷ったときに、どちらとも言えないという答えへ逃げる傾向も見られました。

00:10:43.584 --> 00:10:50.531
追加で学ばせると、使う段階の幅は大きく戻っています。

00:10:50.531 --> 00:10:57.479
ただしこれは、専門家の審査をまだ経ていない報告で、分かっているのは要旨に書かれた範囲だけです。

00:10:57.479 --> 00:11:04.426
たとえば資材の表現を五段階で採点させると、強い表現も弱い表現も、

00:11:04.426 --> 00:11:11.373
真ん中に寄せて返すおそれがあります。

00:11:11.373 --> 00:11:18.321
危ない表現ほど端の点がつくべきなのに、それが見逃されかねない。

00:11:18.321 --> 00:11:25.268
AIの点数は、人が散らばり方を見て確かめ、偏りがあれば段階を減らすといった手を打つべきです。

00:11:25.268 --> 00:11:32.215
規制に関わる判定では、偏りに気づかないことが、そのまま危うさになります。

00:11:32.215 --> 00:11:39.163
AIの判定の癖を確かめる手間は、守るべき決まりの多い現場ほど重く、

00:11:39.163 --> 00:11:46.110
導入を遅らせる理由にもなります。

00:11:46.100 --> 00:11:53.476
お金が設計や治験に集まる一方で、薬をつくる工程では、AIの導入が足踏みしています。

00:11:53.476 --> 00:12:00.853
薬の製造では、決まりを守れるかという不安がAIを入れる妨げになっている、と調査が伝えました。

00:12:00.853 --> 00:12:08.229
設計や治験の運用と比べて、遅れははっきりしています。

00:12:08.229 --> 00:12:15.606
大事なのは、挙がった妨げが、決まりを守れるかという不安だという点です。

00:12:15.606 --> 00:12:22.982
欧州では、新しい規制を社内の誰が受け持つのかが、実務の課題になっています。

00:12:22.982 --> 00:12:30.359
製造とは、決めた手順どおりにつくったことを、記録で示し続ける仕事です。

00:12:30.359 --> 00:12:37.735
答えが毎回少しずつ変わるAIは、この考え方となじみません。

00:12:37.735 --> 00:12:45.111
ですからこの遅れは怠けではなく、AIの出力を確かめる方法がまだ用意されていないことの表れだと、

00:12:45.111 --> 00:12:52.488
私は読んでいます。

00:12:52.488 --> 00:12:59.864
裏返せば、確かめる方法と責任者を先に決めた会社から、製造でもAIを使えるようになるはずです。

00:12:59.864 --> 00:13:07.241
私なら、品質の担当と情報システムの担当が一緒に、誰が承認するかを最初に決めます。

00:13:07.241 --> 00:13:14.617
品質の記録にAIの出力を残すなら、どの版のAIで何を出したかも、その記録に含めることになります。

00:13:14.617 --> 00:13:21.994
確かめる人と責任者をどう置くか。

00:13:21.994 --> 00:13:29.370
この問いは、目立たなかった報道の中にも出ていました。

00:13:29.380 --> 00:13:36.912
目立つ見出しの外では、AIを使う人と確かめる人の側に変化が出ています。

00:13:36.912 --> 00:13:44.445
今日の問いを解く手がかりは、むしろそこにあります。

00:13:44.445 --> 00:13:51.977
早くから使っていた人の中に、代理のAIをやめる人が出てきました。

00:13:51.977 --> 00:13:59.509
理由は、情報が漏れる不安や思わぬ失敗です。

00:13:59.509 --> 00:14:07.042
AIの安全を確かめる人たちは、重い責任に追われていると伝えられました。

00:14:07.042 --> 00:14:14.574
そして開発元の代表は、勝つためなら多少の害は仕方ない、という考えを口にしています。

00:14:14.574 --> 00:14:22.106
これらを並べると、便利さの代価を誰が払うのか、という問いが浮かびます。

00:14:22.106 --> 00:14:29.638
やめる人が出たのは、便利さよりも不安が勝った人がいるということです。

00:14:29.638 --> 00:14:37.171
開発元が害を仕方ないと言うなら、その害は使う側と社会に回ってきます。

00:14:37.171 --> 00:14:44.703
製薬会社は、患者と医療者に対して、使った道具の結果まで説明する立場にあります。

00:14:44.703 --> 00:14:52.235
開発元の約束に頼り切らず、自分たちで確かめる人を置き、その人に時間と権限を渡すこと。

00:14:52.235 --> 00:14:59.768
確かめる役を一人に任せきりにしない仕組みも、会社の側で考えておくべきです。

00:14:59.768 --> 00:15:07.300
最後に、ここまでの出来事から見えてきた、開発元と使う側の責任の分け方を考えます。

00:15:07.300 --> 00:15:13.572
無料で試せる時期が終わり、AIは使った分を払い、起きたことには使う側が責任を持つ道具に

00:15:13.572 --> 00:15:19.843
なりました。

00:15:19.843 --> 00:15:26.115
止める仕組みを用意するのは開発元でも、組み込んで確かめるのは使う側です。

00:15:26.115 --> 00:15:32.387
製薬会社は、費用の見積もりと止める手順と確かめる人を、一度に決めておく必要があります。

00:15:32.387 --> 00:15:38.658
明日は、事故を受けて国が何をするかを見ます。

00:15:38.658 --> 00:15:44.930
その答えで、使う側が負う責任の重さが変わるからです。
