AIの見張りの穴、見つけたのは外の目だった── 締め出し、資金、電気まで。製薬がAIに任せる前に確かめること
実は、AIの見張りの穴を見つけたのは、作った会社ではありませんでした。見終えると、AIに任せる前に何を確かめればよいかが分かります。作った会社が自分で見張るだけで、本当に足りるのでしょうか。
同じ日に、AIに仕事を任せる道具は、かえって数を増やしました。使うなと国に命じられた作り手は、数日のうちに大きな資金を集めたと伝えられました。患者の記録や開発のデータをAIに預ける日は、製薬の現場にも近づいています。それを支えるお金と電気は、この先も続くのか。答えの手がかりは、一つの点に集まっていました。
01外部機関が監視の欠陥を指摘
出典 Reuters ／ Mashable ／ StateScoop
頼りにしていた見張りの仕組みに、外から穴が見つかりました。任せる側にとっては、足元が揺れる知らせです。
私がこの話で目を留めたのは、穴を見つけたのが作った会社ではなかったことです。自分で作った仕組みを自分で調べると、見落としはたいてい見落としのまま残ります。外から調べる人がいたから、弱いところが表に出ました。作った側の説明だけで、AIが安全だと信じきることはできません。作り手が自信を持っている仕組みほど、外から確かめる値打ちがあると私は考えます。
| 主体 | 動き | 報じた媒体 |
|---|---|---|
| METR | OpenAIの内部監視システムに欠陥を指摘 | Reuters、CNBC |
| Sam Altman | OpenAIの安全委員会トップを退任 | Mashable |
| OpenAI | カリフォルニア州のAI安全法の強化をNewsom知事に要請 | StateScoop |
同じ日に、安全を見る役の顔ぶれが変わり、州の決まりを強めてほしいという声が会社の側から上がりました。中で見る力が揺らぐ一方で、外の決まりに支えを求めているようにも見えます。これは私の読みにすぎませんが、自社の見張りだけでは足りないと、会社自身が感じ始めているのかもしれません。
外の目の強みは、開発の損得から離れていることです。売り上げに響く欠点でも、遠慮なく言えます。製薬の仕事では、自分で作ったものを別の人が確かめるのは当たり前の作法でした。AIにも同じ確かめ方が要る時期が来ています。
製薬の会社がAIを選ぶときには、性能の説明を聞くだけでは足りません。誰が外から調べたのか、その結果を見せてもらえるのかを、こちらから問うべきです。答えられない相手に患者の記録を預けるのは危ういと、私は考えます。調べた結果を決まった間隔で受け取る約束も、契約の段階で取り付けておきたいところです。
では、見張る仕組みが揺らいでいるあいだに、AIに仕事を任せる道具はどれほど増えているのでしょうか。
02エージェント製品が並んだ
出典 Google Cloud ／ Google for Developers Blog ／ The New York Times ／ Search Engine Journal
見張る力が問われたその日に、AIに仕事を任せる道具は、かえって数を増やしていました。
Claude Duet
AnthropicのAIエージェント。TechCrunch、Mashable、Barron'sが報じ、MetaのMuseとの競合構図が語られた
Googleの文脈補強
Google CloudがKnowledge Catalogを発表。AIエージェント向けの、自己学習型の文脈補強の機能
Geminiの開発基盤
Gemini Agent Platformで、統制のとれた自己進化型のAIエージェントを作る方法を公開。障害を数秒で復旧できるとする
並んだ道具はどれも、人の手を離れて自分で動くことを打ち出しています。自分で学び、自分で直し、要る情報を自分で集めます。便利になるほど、人が途中で口を挟む場面は減っていきます。そう考えると、さきほどの見張りの問題は、これから小さくなるどころか大きくなっていくと私は考えます。任せる範囲が広がる速さに、確かめる仕組みのほうが追いついていないように、私には見えます。
| 人物 | 発言・動き |
|---|---|
| Sundar Pichai（Google） | 検索はエージェント層に吸収される |
| Sundar Pichai（Google） | AIエージェントでGoogleの業務を24時間追跡 |
| Walmart、Amazon | 買い物と業務でAIエージェントの役割を拡大 |
大手の首脳は、調べものの入り口そのものが、任せるAIに置き換わると見ています。買い物でも日々の仕事でも、人が自分で操作する画面は減っていくのかもしれません。人が調べて選んでいた手順が、AIの内側に隠れていくおそれがあります。何を根拠に選んだのかが、外からは見えにくくなります。
任せるAIは、途中の進め方を自分で決めます。だから結果が正しくても、どの道を通ってそこに着いたのかは、別に確かめなければなりません。製薬の仕事では、結論と同じ重さで、そこに至るまでの記録が問われます。記録の残らない道具は、規制の下では使いにくいのです。
文献の下調べや、問い合わせへの回答の下書きに、任せるAIを使う日はすぐに来ます。そのとき担当者の手元に要るのは、使い方の手引きより、何を記録させるかの決まりです。誰が最後に中身を確かめ、誰が責任を負うのかも、使い始める前に決めておく必要があります。記録をどう残したかは、監査を受けるときの答え方にそのままつながります。
使ってよい道具を決める決まりは、社内のものだけではありません。使うAIを、国が先に選んでしまうこともあります。
03使用禁止の直後の資金調達
出典 TechCrunch
どのAIを使うかを、国が先に決めてしまう場面があります。使うなと命じられた作り手に、そのあと何が起きたのでしょうか。
命令の対象は、国の役所で使うAIでした。安全を守るために、ある作り手の技術を外せという中身です。ところが数日のうちに、その作り手が大きな資金を集めたと伝えられました。この記事の範囲では、締め出しが作り手の勢いを止めた様子は見えません。
一つの国の命令が縛れるのは、自分の役所で何を使うかまでです。作り手がどこからお金を集め、世界の誰に使われるかまでは、手が届きません。
集めた額は、作り手の国でも指折りの大きさだと報じられています。命令の重さより、先へ進む力への期待のほうが勝った、と私は読んでいます。
製薬の会社も、国をまたいでAIを使います。ある国の拠点では使えるAIが、別の国の拠点では使えない、ということが起こりえます。どのAIを使ってよいかが、性能より先に、その国の決まりで決まる場面は増えていくはずです。自社の道具がどの国の命令に触れうるのかを、使い始める前に洗い出しておきたいところです。
締め出されても大きなお金が集まるほど、AIに向かう資金の流れは強いままです。次は、製薬に近いお金の中身を見ます。
04創薬AIの額とその性質
出典 BioPharma APAC ／ Pulse 2.0 ／ Fortune ／ Yahoo Finance
お金の話では、製薬に近い大きな額も伝えられました。ただ、伝えられた額をそのまま受け取ってよいかどうかは、また別の問題です。
| 案件 | 報じられた額 | 額の性質 |
|---|---|---|
| AI創薬企業と製薬企業の腫瘍領域の協業 | $888 Million | 確定額か上限の総額か、見出しでは判別できない |
| AIメタボロミクス創薬モデルへのNIH助成 | $2.5 Million | 公的な助成。規模は小さい |
| 法務AIのLegoraの追加調達 | 5.5億ドル | 調達額 |
| MetaのAI向けの調達 | 1,450億ドル | 議決権を手放さずに調達 |
額の性質は、自サイト「AIと製薬産業」と「AI Daily News」の記述による
並んだ額は、一見どれも同じ種類のお金に見えます。けれども、実際に払われたお金と、条件がそろったときに払われる上限とでは、意味がまるで違います。公の助成のように、受け取りが決まっているお金もあります。額の大きさだけで並べると、案件の重さを読み違えます。小さな額でも、確かに払われるお金のほうが重いことがあるのです。
創薬の提携では、開発があらかじめ決めた段まで進むたびに、その都度お金が払われる形がよく使われます。途中で開発が止まれば、残りは払われません。今回の大きな総額も、すでに動いたお金とは言い切れず、条件がそろうたびに払われる分を含めた上限として読むのが筋です。
今回の知らせは、最初の段を越えたというものでした。最初の段を越えても、その先まで進める保証はありません。報道された額と、実際に動いたお金とを分けて読む習慣が、私たちには要ります。
製薬の実務家は、提携の発表を社内で説明する役に回ることがあります。そのとき大きな額だけを伝えると、期待が先に膨らみます。後になって額が小さく見えれば、社内の信頼を損ねることにもなりかねません。額の性質を一言添えて伝えることが、周りの判断を誤らせないための最低限の作法だと私は思います。
では、製薬の仕事のすぐ近くでは、お金とAIをめぐって何が動いているのでしょうか。
05製薬の現場では
出典 The Verge ／ Bloomberg Law News ／ Law.com
製薬の会社が、AIを自前で作るより、大きな計算の力を持つ会社と組む動きが伝えられました。
| 製薬側が組む相手 | 対象 |
|---|---|
| Oracle | 治験の最適化と患者探し |
| NVIDIA、Microsoft | 希少腫瘍患者の支援 |
製薬企業名は省いた。自サイト「AIと製薬産業」10月23日号から
組む相手の仕事は、人で薬を試す試験の運び方や、患者さんへの支えといった、研究の外側にまで広がっていると報じられています。薬の候補を探す段だけでなく、開発を回す土台そのものにAIが入ってきました。土台を他社に預けるほど、相手の安全と見張りの質が、そのまま自社の質になります。組む前に相手の見張りの仕組みを確かめる理由は、ここにあります。
診断AIの主張
Microsoft AIのスレイマンCEOが、自社のAIツールは病気の診断で医師より優秀だと主張した
学習データの訴え
独立系の音楽出版社が、歌詞を無断で複製しClaudeの訓練に使ったとしてAnthropicを提訴した
保険とAIの統治
AIの統治とリスク管理を文書にしておけば、商業保険の更新時の補償や免責条項の交渉に対応しやすいとの説明
同じ日には、AIが診断で医師を上回るという強い主張も出ました。学ばせた材料を無断で使ったと訴えられた例もあります。AIの扱い方を書面に残しておくと、保険の交渉で有利になりうるという説明もありました。別々の話に見えますが、どれも説明できるかどうかを問うています。
製薬は、もともと記録と説明で信頼を得てきた業界です。どの材料で学んだAIか、どう管理しているかを示せなければ、使った側も責任を問われます。強い言葉ほど、根拠の出し方を確かめる必要があります。どんな患者で、誰と比べた結果なのかを問う姿勢は、薬を評価するときと何も変わりません。裏を返せば、記録を残す力のある会社は、AIを使う場面でも一歩先に立てるはずです。
ただし、こうした動きはどれも、計算を支える電気とお金が続くことを前提にしています。
06電力と資金という上限
出典 Crusoe ／ FOX 5 New York ／ CNBC ／ Reuters
最後に、広がり続けるAIの足元を見ます。
| 主体 | 動き | 理由・発言 |
|---|---|---|
| ニューヨーク州のホークル知事 | AIデータセンターの一時停止を擁護 | 電力不足の懸念 |
| Crusoe、NBSF | AI工場の電源施設 | 7億ドル |
| Nvidiaのファン CEO | ネオクラウドの需要は「桁外れ」 | 一方で資金が不足 |
| Tesla | 設備投資を削減 | 株価が下落 |
電気が足りなくなるおそれを理由に、新しい計算の拠点を止める判断を守る州が出ました。電源を自前で用意する動きもあります。AIを広げようとすると、電気は最初に足りなくなるものの一つになりつつあります。求める声は強いのに、それを支えるお金が細っているという見方も出ました。大きな投資を減らした会社の株が下がり、AIへの力の入れ方に疑問が出ているとも報じられました。
計算の力を貸す新しい会社は、機械をそろえるだけで多くの資金を使います。資金が集まりにくくなれば、貸せる力も増やしにくくなります。借りる側から見れば、いま借りている力を、明日も同じ条件で借りられるとは限りません。値上がりや、貸し手が手を引くことも考えに入れておくべきです。
製薬の会社が開発や研究の土台をAIに移すなら、その土台が何年もつのかを見積もっておく必要があります。相手の電気とお金の事情が、そのまま自社の計画の弱いところになりうるからです。私なら、乗り換えの道を最初から用意しておきます。一社に頼り切らず、別の相手でも同じ仕事が回るように、データの形をそろえておくのです。
見張り、締め出し、お金と電気。今日の出来事は、どれも任せる前に何を確かめるかという一点につながっていました。
METRの指摘に、OpenAIはどう答えるか。内部監視システムの欠陥への対応と、カリフォルニア州AI安全法の改正の行方に注目する。
全文書き起こしを開く（音声と同じ文）
導入
実は、AIの見張りの穴を見つけたのは、作った会社ではありませんでした。見終えると、AIに任せる前に何を確かめればよいかが分かります。作った会社が自分で見張るだけで、本当に足りるのでしょうか。
同じ日に、AIに仕事を任せる道具は、かえって数を増やしました。使うなと国に命じられた作り手は、数日のうちに大きな資金を集めたと伝えられました。患者の記録や開発のデータをAIに預ける日は、製薬の現場にも近づいています。それを支えるお金と電気は、この先も続くのか。答えの手がかりは、一つの点に集まっていました。
CH 01 外部機関が監視の欠陥を指摘
頼りにしていた見張りの仕組みに、外から穴が見つかりました。任せる側にとっては、足元が揺れる知らせです。私がこの話で目を留めたのは、穴を見つけたのが作った会社ではなかったことです。自分で作った仕組みを自分で調べると、見落としはたいてい見落としのまま残ります。外から調べる人がいたから、弱いところが表に出ました。作った側の説明だけで、AIが安全だと信じきることはできません。
作り手が自信を持っている仕組みほど、外から確かめる値打ちがあると私は考えます。同じ日に、安全を見る役の顔ぶれが変わり、州の決まりを強めてほしいという声が会社の側から上がりました。中で見る力が揺らぐ一方で、外の決まりに支えを求めているようにも見えます。これは私の読みにすぎませんが、自社の見張りだけでは足りないと、会社自身が感じ始めているのかもしれません。
外の目の強みは、開発の損得から離れていることです。売り上げに響く欠点でも、遠慮なく言えます。製薬の仕事では、自分で作ったものを別の人が確かめるのは当たり前の作法でした。AIにも同じ確かめ方が要る時期が来ています。製薬の会社がAIを選ぶときには、性能の説明を聞くだけでは足りません。誰が外から調べたのか、その結果を見せてもらえるのかを、こちらから問うべきです。
答えられない相手に患者の記録を預けるのは危ういと、私は考えます。調べた結果を決まった間隔で受け取る約束も、契約の段階で取り付けておきたいところです。では、見張る仕組みが揺らいでいるあいだに、AIに仕事を任せる道具はどれほど増えているのでしょうか。
CH 02 エージェント製品が並んだ
見張る力が問われたその日に、AIに仕事を任せる道具は、かえって数を増やしていました。並んだ道具はどれも、人の手を離れて自分で動くことを打ち出しています。自分で学び、自分で直し、要る情報を自分で集めます。便利になるほど、人が途中で口を挟む場面は減っていきます。そう考えると、さきほどの見張りの問題は、これから小さくなるどころか大きくなっていくと私は考えます。
任せる範囲が広がる速さに、確かめる仕組みのほうが追いついていないように、私には見えます。大手の首脳は、調べものの入り口そのものが、任せるAIに置き換わると見ています。買い物でも日々の仕事でも、人が自分で操作する画面は減っていくのかもしれません。人が調べて選んでいた手順が、AIの内側に隠れていくおそれがあります。何を根拠に選んだのかが、外からは見えにくくなります。
任せるAIは、途中の進め方を自分で決めます。だから結果が正しくても、どの道を通ってそこに着いたのかは、別に確かめなければなりません。製薬の仕事では、結論と同じ重さで、そこに至るまでの記録が問われます。記録の残らない道具は、規制の下では使いにくいのです。文献の下調べや、問い合わせへの回答の下書きに、任せるAIを使う日はすぐに来ます。そのとき担当者の手元に要るのは、使い方の手引きより、何を記録させるかの決まりです。
誰が最後に中身を確かめ、誰が責任を負うのかも、使い始める前に決めておく必要があります。記録をどう残したかは、監査を受けるときの答え方にそのままつながります。使ってよい道具を決める決まりは、社内のものだけではありません。使うAIを、国が先に選んでしまうこともあります。
CH 03 使用禁止の直後の資金調達
どのAIを使うかを、国が先に決めてしまう場面があります。使うなと命じられた作り手に、そのあと何が起きたのでしょうか。命令の対象は、国の役所で使うAIでした。安全を守るために、ある作り手の技術を外せという中身です。ところが数日のうちに、その作り手が大きな資金を集めたと伝えられました。
この記事の範囲では、締め出しが作り手の勢いを止めた様子は見えません。一つの国の命令が縛れるのは、自分の役所で何を使うかまでです。作り手がどこからお金を集め、世界の誰に使われるかまでは、手が届きません。集めた額は、作り手の国でも指折りの大きさだと報じられています。命令の重さより、先へ進む力への期待のほうが勝った、と私は読んでいます。製薬の会社も、国をまたいでAIを使います。
ある国の拠点では使えるAIが、別の国の拠点では使えない、ということが起こりえます。どのAIを使ってよいかが、性能より先に、その国の決まりで決まる場面は増えていくはずです。自社の道具がどの国の命令に触れうるのかを、使い始める前に洗い出しておきたいところです。締め出されても大きなお金が集まるほど、AIに向かう資金の流れは強いままです。次は、製薬に近いお金の中身を見ます。
CH 04 創薬AIの額とその性質
お金の話では、製薬に近い大きな額も伝えられました。ただ、伝えられた額をそのまま受け取ってよいかどうかは、また別の問題です。並んだ額は、一見どれも同じ種類のお金に見えます。けれども、実際に払われたお金と、条件がそろったときに払われる上限とでは、意味がまるで違います。公の助成のように、受け取りが決まっているお金もあります。額の大きさだけで並べると、案件の重さを読み違えます。
小さな額でも、確かに払われるお金のほうが重いことがあるのです。創薬の提携では、開発があらかじめ決めた段まで進むたびに、その都度お金が払われる形がよく使われます。途中で開発が止まれば、残りは払われません。今回の大きな総額も、すでに動いたお金とは言い切れず、条件がそろうたびに払われる分を含めた上限として読むのが筋です。今回の知らせは、最初の段を越えたというものでした。
最初の段を越えても、その先まで進める保証はありません。報道された額と、実際に動いたお金とを分けて読む習慣が、私たちには要ります。製薬の実務家は、提携の発表を社内で説明する役に回ることがあります。そのとき大きな額だけを伝えると、期待が先に膨らみます。後になって額が小さく見えれば、社内の信頼を損ねることにもなりかねません。額の性質を一言添えて伝えることが、周りの判断を誤らせないための最低限の作法だと私は思います。
では、製薬の仕事のすぐ近くでは、お金とAIをめぐって何が動いているのでしょうか。
CH 05 製薬の現場では
製薬の会社が、AIを自前で作るより、大きな計算の力を持つ会社と組む動きが伝えられました。組む相手の仕事は、人で薬を試す試験の運び方や、患者さんへの支えといった、研究の外側にまで広がっていると報じられています。薬の候補を探す段だけでなく、開発を回す土台そのものにAIが入ってきました。土台を他社に預けるほど、相手の安全と見張りの質が、そのまま自社の質になります。
組む前に相手の見張りの仕組みを確かめる理由は、ここにあります。同じ日には、AIが診断で医師を上回るという強い主張も出ました。学ばせた材料を無断で使ったと訴えられた例もあります。AIの扱い方を書面に残しておくと、保険の交渉で有利になりうるという説明もありました。別々の話に見えますが、どれも説明できるかどうかを問うています。製薬は、もともと記録と説明で信頼を得てきた業界です。
どの材料で学んだAIか、どう管理しているかを示せなければ、使った側も責任を問われます。強い言葉ほど、根拠の出し方を確かめる必要があります。どんな患者で、誰と比べた結果なのかを問う姿勢は、薬を評価するときと何も変わりません。裏を返せば、記録を残す力のある会社は、AIを使う場面でも一歩先に立てるはずです。ただし、こうした動きはどれも、計算を支える電気とお金が続くことを前提にしています。
CH 06 電力と資金という上限
最後に、広がり続けるAIの足元を見ます。電気が足りなくなるおそれを理由に、新しい計算の拠点を止める判断を守る州が出ました。電源を自前で用意する動きもあります。AIを広げようとすると、電気は最初に足りなくなるものの一つになりつつあります。求める声は強いのに、それを支えるお金が細っているという見方も出ました。大きな投資を減らした会社の株が下がり、AIへの力の入れ方に疑問が出ているとも報じられました。
計算の力を貸す新しい会社は、機械をそろえるだけで多くの資金を使います。資金が集まりにくくなれば、貸せる力も増やしにくくなります。借りる側から見れば、いま借りている力を、明日も同じ条件で借りられるとは限りません。値上がりや、貸し手が手を引くことも考えに入れておくべきです。製薬の会社が開発や研究の土台をAIに移すなら、その土台が何年もつのかを見積もっておく必要があります。
相手の電気とお金の事情が、そのまま自社の計画の弱いところになりうるからです。私なら、乗り換えの道を最初から用意しておきます。一社に頼り切らず、別の相手でも同じ仕事が回るように、データの形をそろえておくのです。見張り、締め出し、お金と電気。
今日の出来事は、どれも任せる前に何を確かめるかという一点につながっていました。
まとめ
AIに任せる範囲は、これからも広がっていきます。作った側の説明だけを信じず、外の目と記録を求めることが、使う側の身を守ります。問うべきなのは、そのAIに何ができるかより、誰がどう見張っているかです。
明日は、穴を指摘された側がどう応じるかを見ます。その応じ方に、任せてよい相手かどうかが表れるはずです。
- CH 01Reuters「AI safety group METR finds flaws in OpenAI’s internal monitoring system」 reuters.com
- CH 01Mashable「Sam Altman steps down as head of OpenAI's safety group」 mashable.com
- CH 01StateScoop「OpenAI urges Newsom to strengthen California’s AI safety law with additional safeguards」 statescoop.com
- CH 02Google Cloud「Knowledge Catalog: self-learning context enrichment for AI agents」 cloud.google.com
- CH 02Google for Developers Blog「Architecting Governed, Self-Evolving AI Agents on Gemini Agent Platform」 developers.googleblog.com
- CH 02The New York Times「Anthropic Joins the A.I. Agent Race With Claude Duet」 nytimes.com
- CH 02Search Engine Journal「Google CEO Sundar Pichai Views Search Absorbed Into Agentic Layer」 searchenginejournal.com
- CH 03TechCrunch「DeepSeek reportedly raises $15B days after US restrictions」 techcrunch.com
- CH 04BioPharma APAC「Insilico Medicine Hits First AI-Driven Oncology Milestone in $888 Million Servier Collaboration」 biopharmaapac.com
- CH 04Pulse 2.0「Sinopia Biosciences Secures $2.5 Million NIH Grant For AI Metabolomics Drug Discovery Model」 pulse2.com
- CH 04Fortune「We just raised another $550 million to bring AI to the legal industry. I still believe there will be more work than lawyers」 fortune.com
- CH 04Yahoo Finance「How Meta Is Raising $145B for AI Without Giving Up a Single Vote of Mark Zuckerberg’s Control」 finance.yahoo.com
- CH 05The Verge「Microsoft says its AI tool is better than doctors at diagnosing diseases」 theverge.com
- CH 05Bloomberg Law News「Anthropic Sued Over Training Claude AI Model on Protected Music」 news.bloomberglaw.com
- CH 05Law.com「AI Governance Takes Center Stage in Insurance Policy Renewals」 law.com
- CH 06Crusoe「Crusoe and NBSF Announce $700M AI Factory Power Facility」 crusoe.ai
- CH 06FOX 5 New York「Hochul defends New York pause on AI data centers over power concerns」 fox5ny.com
- CH 06CNBC「Nvidia CEO Jensen Huang says neocloud demand is 'off the charts' but capital is scarce」 cnbc.com
- CH 06Reuters「Tesla shares slip after capex cut raises doubts over Musk's AI and robotics push」 reuters.com
材料にした記事
今日の関連レポート
- AI Daily News 2026.10.23
- AIと経済 最新ニュース 2026.10.23
- AIと金融 最新ニュース 2026.10.23
ナレーションは合成音声です。内容は当日の当サイト記事だけを材料にしています。平易度の 7 項目（専門語の言い換え・文の長さ・章の構成・情報量・具体例・繰り返し・前提知識）を満たしたものだけを公開しています。ただしこれは理解を妨げる要因を抑えたということであって、理解できることを保証するものではありません。
- 総字数
- 3,695
- 平均文長
- 34.2
- 最長文
- 60
- 章
- 6
- 平易度
- L1〜L7 合格