WEBVTT

00:00:00.000 --> 00:00:08.157
仕事を任せたAIが、人の見ていないところで操作を続ける。

00:00:08.157 --> 00:00:16.314
そうした場面は、もう仮定の話ではなくなりました。

00:00:16.314 --> 00:00:24.471
では、そのAIを途中で止める役目は、誰が負うのでしょうか。

00:00:24.471 --> 00:00:32.629
作った会社の内側か、端末やソフトを用意する側か、それとも使う側の組織か。

00:00:32.629 --> 00:00:40.786
今日の出来事は、この問いにそれぞれ別の方向から関わっています。

00:00:40.786 --> 00:00:48.943
製薬の仕事でも、文書の下書きや文献の整理をAIに任せる場面が増えました。

00:00:48.943 --> 00:00:57.100
止める役目の持ち主が分からないまま任せても、説明の責任を負うのは私たちです。

00:00:57.100 --> 00:01:04.341
止める役目を負う人が、作り手の内側から、自分で職場を去りました。

00:01:04.341 --> 00:01:11.581
私は、この辞職の理由が、道具を選ぶ私たちの判断にも関わると考えています。

00:01:11.581 --> 00:01:18.822
本人が問題にしたのは、個別の不具合ではありませんでした。

00:01:18.822 --> 00:01:26.062
組織の文化そのものです。

00:01:26.062 --> 00:01:33.303
求めた安全策も、ふつうの企業の備えとは桁の違う水準だったと報じられています。

00:01:33.303 --> 00:01:40.543
社内の手続きでは声が届かなかったから、外に向けて語ったのかもしれません。

00:01:40.543 --> 00:01:47.784
その同じ時期に、この会社の株式の売り出しをめぐる話も続いています。

00:01:47.784 --> 00:01:55.024
株式を売り出す日が近づくと、会社は成長の速さを外に示そうとします。

00:01:55.024 --> 00:02:02.265
安全のために時間をかける判断は、この速さへの圧力とぶつかります。

00:02:02.265 --> 00:02:09.505
辞めた人の言い分は、その衝突を映しているのかもしれません。

00:02:09.505 --> 00:02:16.746
製品の出来を外から比べても、この衝突は見えません。

00:02:16.746 --> 00:02:23.986
作り手の内側で何が起きているかは、こうした人の出入りからしか分からないことが多いのです。

00:02:23.986 --> 00:02:31.227
製薬の現場でも、文献の整理や文書の下書きに、こうした道具を使い始めています。

00:02:31.227 --> 00:02:38.467
提供元の内側で安全の仕事が弱まれば、その影響は私たちの記録にまで及びます。

00:02:38.467 --> 00:02:45.708
だから私は、性能の比較に加えて、作り手が安全にどれだけの人と時間を割いているかを、

00:02:45.708 --> 00:02:52.948
選ぶ材料に入れるべきだと考えます。

00:02:52.948 --> 00:03:00.189
去った人がどんな立場で何を心配していたかは、契約の前に確かめられる数少ない手がかりです。

00:03:00.189 --> 00:03:07.429
この心配は、辞めた一人だけのものだったのでしょうか。

00:03:07.429 --> 00:03:14.670
同じころ、立場の違う人たちからも、よく似た声が上がっていました。

00:03:14.660 --> 00:03:21.809
心配を口にしたのは、辞めた一人だけではありませんでした。

00:03:21.809 --> 00:03:28.959
立場も利害も違う人たちが、同じ向きの懸念を語っています。

00:03:28.959 --> 00:03:36.108
目を引くのは、語った人の立場がばらばらなことです。

00:03:36.108 --> 00:03:43.258
かつて安全を担った人、外の研究者、部品を売る側の経営者。

00:03:43.258 --> 00:03:50.407
利害の違う人たちが、それぞれの言い方で、AIの動きを人がどう見張るかを問題にしています。

00:03:50.407 --> 00:03:57.557
一社の内輪の問題にとどまらない、と私は受け止めています。

00:03:57.557 --> 00:04:04.707
争いが裁判に持ち込まれるという見方まで出てきました。

00:04:04.707 --> 00:04:11.856
心配は言葉の段階を越えて、誰がどこまで責任を負うかという話に移りつつあります。

00:04:11.856 --> 00:04:19.005
任せたAIは、一つ頼まれると、次に何をするかを自分で選んで進めます。

00:04:19.005 --> 00:04:26.155
人が一つずつ確かめる前に、操作が先へ進んでしまうのです。

00:04:26.155 --> 00:04:33.305
指示があいまいなら、どこへ向かうかは作った側にも読み切れません。

00:04:33.305 --> 00:04:40.454
そのため問われているのは、賢さよりも、途中で止められるかどうかです。

00:04:40.454 --> 00:04:47.603
動きが速いほど、止める仕組みの遅れが目立ちます。

00:04:47.603 --> 00:04:54.753
製薬の仕事は、誰が何をいつ確かめたかを残すことで成り立っています。

00:04:54.753 --> 00:05:01.903
途中の操作が記録に残らない道具は、この前提と合いません。

00:05:01.903 --> 00:05:09.052
任せる範囲を決め、人が止める場所を前もって決めておく。

00:05:09.052 --> 00:05:16.202
導入を考えるなら、まずその設計が要ります。

00:05:16.202 --> 00:05:23.351
問題が起きたときに誰が責任を負うのかも、使い始める前に社内で決めておくべきだと私は考えます。

00:05:23.351 --> 00:05:30.500
懸念がそろうと、次に動くのは、端末とその土台のソフトを持つ側です。

00:05:30.500 --> 00:05:37.650
ある大手が、自社の端末の上で、AIに渡す権限を絞り始めました。

00:05:37.660 --> 00:05:44.731
作り手の外で最初に手を打ったのは、端末を作る会社でした。

00:05:44.731 --> 00:05:51.802
止めようとしているのは、AIのどの動きなのでしょうか。

00:05:51.802 --> 00:05:58.873
背景として報じられたのは、利用者が急に増えた、ある会社のAIへの苦情でした。

00:05:58.873 --> 00:06:05.944
持ち主の情報の扱いに、懸念が出ていたのです。

00:06:05.944 --> 00:06:13.015
端末を作る側は、AIからの求めを、持ち主の目に見える形で示すことで応えようとしています。

00:06:13.015 --> 00:06:20.086
どこまで止めるのか、細かい決まりはまだ分かっていません。

00:06:20.086 --> 00:06:27.157
それでも、作り手に任せていた止める役目を、端末の側が引き取り始めました。

00:06:27.157 --> 00:06:34.228
私はそこに意味があると考えます。

00:06:34.228 --> 00:06:41.299
端末の中身すべてに触れる許可は、便利さと引きかえに大きな危険を伴います。

00:06:41.299 --> 00:06:48.371
一度許せば、AIは持ち主が開いていない書類まで読めてしまいます。

00:06:48.371 --> 00:06:55.442
端末の側がそこに確認の手順を一つ挟むのは、人の判断を一度通すためです。

00:06:55.442 --> 00:07:02.513
持ち主が知らないうちに許していた、という事態をなくそうとしているのです。

00:07:02.513 --> 00:07:09.584
製薬会社の端末には、公表前の試験結果や、患者さんに関わる情報が入っていることがあります。

00:07:09.584 --> 00:07:16.655
社員が便利そうなAIを自分の判断で入れれば、それらに触れる許可を渡すことになりかねません。

00:07:16.655 --> 00:07:23.726
端末の仕組みに任せきりにはできません。

00:07:23.726 --> 00:07:30.797
どのAIを、どの端末で、どの情報まで触らせるのか。

00:07:30.797 --> 00:07:37.868
その一覧を社内で持つことが、最初の守りになります。

00:07:37.868 --> 00:07:44.939
止める仕組みは、外から加えるものに限りません。

00:07:44.939 --> 00:07:52.010
AI自身に、自分の進み具合を確かめさせる研究も出てきました。

00:07:52.010 --> 00:07:58.178
外から止める仕組みとは別に、AIの内側に確かめる働きを持たせる考え方があります。

00:07:58.178 --> 00:08:04.346
長い手順の仕事を任せたとき、途中で方向を見失わないための工夫です。

00:08:04.346 --> 00:08:10.514
この研究では、AIにこれまでの作業の記録を丸ごと抱えさせません。

00:08:10.514 --> 00:08:16.682
代わりに、いま分かっていることと、まだ残っている作業を、AI自身に書き出させます。

00:08:16.682 --> 00:08:22.850
書き出してあれば、手を動かしているのに先へ進んでいない状態に気づけます。

00:08:22.850 --> 00:08:29.019
気づいたら、原因の種類に応じてやり方を変える。

00:08:29.019 --> 00:08:35.187
止まるべきときに止まる判断を、AI自身に持たせる試みです。

00:08:35.187 --> 00:08:41.355
外から止めるのではなく、AIが自分の進み方を見直す。

00:08:41.355 --> 00:08:47.523
ここが、ここまでの章との違いです。

00:08:47.523 --> 00:08:53.691
途中の考えが書き出されていれば、人も後から読めます。

00:08:53.691 --> 00:08:59.859
AIがなぜその操作を選んだのかを、あとで確かめられるのです。

00:08:59.859 --> 00:09:06.027
判断の経緯を残すという製薬の仕事の求めと、ここはよく重なります。

00:09:06.027 --> 00:09:12.195
AIが何を前提に動いたかを人が読めれば、誤りにも早く気づけます。

00:09:12.195 --> 00:09:18.363
ただし、この論文は、ほかの専門家による審査をまだ受けていません。

00:09:18.363 --> 00:09:24.531
成績が上回ったとはいえ、差がどれほどか、手間や費用がどれだけ増えるかは、

00:09:24.531 --> 00:09:30.700
要旨には書かれていません。

00:09:30.700 --> 00:09:36.868
良い結果ほど、何が書かれていないかを先に確かめる。

00:09:36.868 --> 00:09:43.036
審査を経ていない試験の結果をそのまま信じないという、製薬の仕事で身につけた姿勢が、

00:09:43.036 --> 00:09:49.204
ここでもそのまま役に立ちます。

00:09:49.204 --> 00:09:55.372
この研究が職場に届くのは、まだ先のことです。

00:09:55.372 --> 00:10:01.540
いま職場で使う道具には、管理する側の仕組みが加わり始めました。

00:10:01.540 --> 00:10:07.737
では、使う側の組織は、どんな止め方を持てるのでしょうか。

00:10:07.737 --> 00:10:13.934
話は作り手から、私たちの職場へ移ります。

00:10:13.934 --> 00:10:20.131
職場で広く使われる道具に、管理の仕組みが加わりました。

00:10:20.131 --> 00:10:26.328
今回の変更は、使える範囲とお金の両方に及びます。

00:10:26.328 --> 00:10:32.525
任せたAIを誰がどこまで使えるかを、会社の管理者が決められるようになりました。

00:10:32.525 --> 00:10:38.722
払い方の切り替えは先へ延ばされ、使いすぎを止める上限も選べるようになっています。

00:10:38.722 --> 00:10:44.919
端末の上で動くAIの発表も、近く控えています。

00:10:44.919 --> 00:10:51.116
使い方を決める力が、作り手から使う側の管理者へ、少しずつ移ってきたと私は見ています。

00:10:51.116 --> 00:10:57.313
使った分だけ払う形では、AIが自分で動くほど、費用の見通しが立ちにくくなります。

00:10:57.313 --> 00:11:03.510
何度もやり直すAIなら、なおさらです。

00:11:03.510 --> 00:11:09.707
予算を組む側にとって、上限を決められるかどうかは導入の判断を左右します。

00:11:09.707 --> 00:11:15.904
費用の読めない道具は、試しに入れることさえ難しいからです。

00:11:15.904 --> 00:11:22.101
製薬会社では、部署ごとに使い方の決まりが違います。

00:11:22.101 --> 00:11:28.298
研究の部署と、医療者への情報を扱う部署とでは、許してよい範囲も違うでしょう。

00:11:28.298 --> 00:11:34.495
道具の側に管理の仕組みが用意されたので、部署ごとの決まりを、

00:11:34.495 --> 00:11:40.692
道具の設定として書き込める余地が生まれます。

00:11:40.692 --> 00:11:46.889
ただ、設定するのは私たち自身です。

00:11:46.889 --> 00:11:53.086
決まりそのものが無ければ、仕組みがあっても使いようがありません。

00:11:53.086 --> 00:11:59.283
管理の仕組みは大きく報じられました。

00:11:59.283 --> 00:12:05.480
一方、あまり報じられなかった動きにも、同じ問いが含まれています。

00:12:05.470 --> 00:12:12.358
最後は、あまり報じられなかった二つの動き、資金の流れと裁判所の判断です。

00:12:12.358 --> 00:12:19.246
どちらも、AIを誰が止めるかという問いにつながっています。

00:12:19.246 --> 00:12:26.134
ある開発元は、自社のAIを企業の現場で使いこなす人を育てるために、大きな額を投じます。

00:12:26.134 --> 00:12:33.022
会社の価値も大きく見積もられています。

00:12:33.022 --> 00:12:39.909
別の大手は、計算の拠点の分類のしかたで、税の優遇を受けていたと報じられました。

00:12:39.909 --> 00:12:46.797
お金の流れを見ると、作る側に大きな資金の余力があることが分かります。

00:12:46.797 --> 00:12:53.685
余力のある作り手ほど、安全にも人とお金を回せるはずです。

00:12:53.685 --> 00:13:00.573
実際に回しているかどうかは、外からは見えにくいままです。

00:13:00.573 --> 00:13:07.461
人を育てることにお金を回すのは、道具を渡すだけでは現場が使いこなせないと見ているからでしょう。

00:13:07.461 --> 00:13:14.349
売る側も、AIの価値は使う側の力で決まると考え始めているのかもしれません。

00:13:14.349 --> 00:13:21.237
製薬会社にとっても、道具を買うことより、使いこなせる人を社内で育てることのほうが大きな課題に

00:13:21.237 --> 00:13:28.125
なると、私は考えます。

00:13:28.125 --> 00:13:35.013
裁判の動きもあります。

00:13:35.013 --> 00:13:41.901
画像の悪用を防ぐ州の法律が、AIの会社の訴えを受けて、ひとまず止められました。

00:13:41.901 --> 00:13:48.788
会社の側は、この法律が言論の自由を狭めると主張していました。

00:13:48.788 --> 00:13:55.676
国が自主規制の路線を続けるなかで、州と裁判所が、どこまでを許すかを決める場になっています。

00:13:55.676 --> 00:14:02.564
製薬会社が国をまたいで道具を使うなら、どの決まりに従うのかを、地域ごとに確かめる手間が増えます。

00:14:02.564 --> 00:14:09.452
お金の話も裁判の話も、行き着く先は、使う側が何を任せるかという判断です。

00:14:09.452 --> 00:14:16.340
外の仕組みがいくら増えても、その判断までは代わってくれません。

00:14:16.340 --> 00:14:23.104
AIを止める役目は、もう作り手の内側だけのものではありません。

00:14:23.104 --> 00:14:29.868
端末を作る会社、職場の管理者、研究者、そして裁判所が、それぞれの持ち場で止める仕組みを

00:14:29.868 --> 00:14:36.632
加えています。

00:14:36.632 --> 00:14:43.396
それでも、何を任せ、どこで人が止めるかを決めるのは、使う私たちです。

00:14:43.396 --> 00:14:50.160
明日は、職場の道具の新しい発表が、その判断をどこまで助けるのかに注目します。
