数学が解けても、現場の仕事はまだ任せられない

1兆ドルの支出に、成長率の鈍化という数字が並んだ

UBSは、大手テック企業のAI向け支出が2027年に1兆ドルを超え、米国の成長を押し上げると見ている。イングランド銀行は、AIが金融部門に与える影響のストレステスト（悪い状況を想定した耐久試験）を検討している。ドイツ銀行のゼービング氏は、バブルへの懸念を和らげる発言をした。金融の現場は、AIの支出を無視できない規模として扱い始めている。

評議会の発言では、Gary Marcus（AI研究者）が10/15に具体的な数字を挙げた。the growth rate from Q1 to Q2 is about 145%, and the growth rate from Q2 to Q3 was about 45%. It was a deceleration in the growth rate.（和訳）第1四半期から第2四半期への成長率は約145%で、第2四半期から第3四半期は約45%だった。成長率が減速したということだ。── Gary Marcus（2026-10-15 12:49 UTC・YouTube「NYU’s Gary Marcus on Building AI We Can Trust」（Bloomberg Television）再生位置 0:17:39・出典） どの企業の数字かは、入力からは分からない。ただ、伸びが急に鈍ったという指摘である。投資家にとっては、需要の伸びが投資の前提どおりかを確かめる材料になる。Marcusは別の発言で、業界は無理に広げすぎていて採算が見えないと述べている。そう言うのは、AIの収益が約束に追いついていないと見ているからだ。

反対の立場がNVIDIAのジェンスン・フアンCEOである。A bubble happens when supply exceeds demand. Eventually, supply and demand will come will harmonize.（和訳）バブルは供給が需要を上回ると起こる。やがて供給と需要は調和するだろう。── Jensen Huang（2026-10-15 13:36 UTC・YouTube「Nvidia CEO Jensen Huang Calls For US-China Cooperation On AI Safety | Trump | N18G」（CNBC-TV18）再生位置 0:02:31・出典） バブルは供給が需要を上回る状態で、いずれ釣り合うという意味だ。つまり今の大量の設備投資は、需要の先回りにすぎないという主張になる。フアン氏はAI向け半導体を売る立場にあり、需要が続くことが自社の事業に直結する。〔評議会推論〕同じ需給の見方から、二人は逆の結論に立っている。評議会内でも意見は割れたままだ。

数学とコードが得意でも、医療の約束は別の話だ

投資の理由として語られるのは、AIが数学やコードで高い成果を出していることだ。Marcusは、そこに注意を促している。The fact that these systems can solve math problems doesn't mean that they can solve other things in the real world.（和訳）こうしたシステムが数学の問題を解けるからといって、現実世界の他のことまで解けるということにはならない。── Gary Marcus（2026-10-15 12:49 UTC・YouTube「NYU’s Gary Marcus on Building AI We Can Trust」（Bloomberg Television）再生位置 0:03:43・出典） 数学の問題は答えが決まっていて、確かめやすい。病院や工場の仕事は条件が絶えず変わる。成果の良い分野から、他の分野の成功を推し量ってはいけないという指摘である。Marcusは、現在の方式のAIは得意分野が主にコーディングと数学だとも述べた。

医療の約束に、この指摘がいちばん強く響く。curing cancer in five years is not going to happen. Not going to happen.（和訳）5年でがんを治すなんてことは起こらない。起こらないよ。── Gary Marcus（2026-10-15 12:49 UTC・YouTube「NYU’s Gary Marcus on Building AI We Can Trust」（Bloomberg Television）再生位置 0:06:16・出典） 患者にとっては、期待の置き方が変わる話だ。Marcusは、期限つきの約束が出る理由を、ベンチャーキャピタルへの売り込みとして有利だからだと述べている。そう言うのは、業界内ではすでに知られた限界を、資金集めのために語らないと見ているからだ。一方で、現在の方式ではない別の技術が医療を根本から変える可能性は、否定していない。

現場の成果は、範囲を絞った道具から出ている。米国では、NeuroXTのAI（アルツハイマー病の進行リスクを予測するソフト）がFDA（米食品医薬品局）の承認に近い許可を得た。デューク大学は認知症向けのAIを臨床に持ち込む取り組みを始めた。AIが担うのは、診断の一部という限られた仕事である。Geoffrey Hintonも10/15に、ある見積もりを楽観的すぎると評した。ただし、その対象は入力から特定できない。

人の代わりに動くAIは、信頼性が先に問われる

AIエージェント（人の代わりに操作まで行うAI）は、仕事を肩代わりする存在として売り込まれている。Marcusは10/12に、現状を短く評した。Part two is agents are not very reliable.（和訳）第2点は、エージェントはあまり信頼できないということだ。── Gary Marcus（2026-10-12 16:00 UTC・YouTube「AI Doomsday Fears, Hacking & the Fight for Control with Gary Marcus | The Real Eisman Playbook Ep 79」（Steve Eisman）再生位置 0:01:18・出典） 仕事を任せる側にとって、これは重大である。間違いを自分で直せないAIに、取引や顧客対応を任せれば、損失は任せた側に返ってくる。Marcusは、エージェントがサイバー犯罪に関する法律に触れる恐れまで挙げている。そう言うのは、安全の基本原則が守られないまま製品が出たと見ているからだ。

それでも企業は人を減らし始めている。NABは「急速な技術変化」を理由に2500人を減らす。Qualcommは成果に応じた人員削減を進め、AIデータセンター事業へ軸足を移す。韓国では、AIで人員を置き換える動きが最も積極的だとの調査も出た。ただし、本日の評議会の発言に、これらの削減に触れたものはない。AIが実際に仕事を代替できているのか、削減の理由づけにすぎないのかは、発言からは確かめられない。

使う側の設計について、マイクロソフトのサティア・ナデラCEOが10/9に述べている。the first decision that we are making is what is my delegation um you know authority that I am giving to the agent uh on my behalf（和訳）最初に決めるのは、自分に代わってエージェントに与える委任の権限をどうするか、ということだ。── Satya Nadella（2026-10-09 18:56 UTC・YouTube「Satya Nadella and Jensen Huang discuss Hybrid Intelligence and the future of PC」（Windows）再生位置 0:20:44・出典） 利用者や会社は、AIに何をどこまで任せるかを先に決めるべきだという意味だ。任せる範囲が曖昧なまま使えば、事故の責任の置き場も曖昧になる。ナデラ氏は、自社の環境でエージェントを安全に動かす仕組みを売る立場にある。〔評議会推論〕そのため、統治の話が自社製品の売り込みと重なる点には注意が要る。

安全の確認まで、AI自身に任せる計画がある

今日の出来事で、いちばん新しい論点がこれである。元OpenAIのダニエル・ココタジロ氏は、10/13にAnthropicの計画を語った。So, you know, one to two years from now, they're planning to have Claudes doing all of the research, including all the safety research at Anthropic.（和訳）つまり、1、2年後には、Anthropicで安全性研究も含むすべての研究をClaudeにやらせる計画だということだ。── Daniel Kokotajlo（2026-10-13 17:12 UTC・YouTube「AI safety: OpenAI, Meta, Google, and more face the Business, Innovation, Science and Trade Committee」（UK Parliament）再生位置 0:23:49・出典） 安全研究も含めて、研究の全部をAIが担うという話だ。AIの危険を調べる作業まで同じ系統のAIがやるなら、結果を外から確かめる人が減る。ココタジロ氏はAIの危険を重く見る立場で、開発企業の内側の動きを批判的に伝えている。なお、本稿の元になった評議会の報告もAnthropicのモデルで作られており、この件には利害の近さがある。

この問題は、前回取り上げた報道とつながる。OpenAIが6月に見つけた整合性の不具合の事例を、公表するまでに112日かかったという。また、正規のAIエージェントのセッションの97.7%に検証済みの身元がないという調査もある。いずれも、評議会内にこれらを論じた実発言はない。〔評議会推論〕安全の確認が企業の内部で閉じるほど、外から検証する手段は細くなる。

急いで広げる前に、確かめながら進める道がある

Marcusは、企業への助言も述べている。I would say sit and wait a little bit, right. The models will get better. People will learn more what they can actually do and what not.（和訳）少し様子を見て待つのがいいと思う。モデルはこれから良くなるし、人々も、実際に何ができて何ができないのかを学んでいくだろう。── Gary Marcus（2026-10-15 12:49 UTC・YouTube「NYU’s Gary Marcus on Building AI We Can Trust」（Bloomberg Television）再生位置 0:22:45・出典） 今すぐ全社に入れるより、AIの得意と不得意が分かるまで待つほうがよいという意味だ。導入を急いだ会社が最も損をする、という見立てである。そう言うのは、現在のAIがデータを注ぎ込めば何でも解く機械ではないと考えているからだ。

〔評議会推論〕向かう先の利点は三つある。第一に、エージェントが人よりも多くの機能を使いこなす優れた道具の利用者になる可能性がある（フアン氏、10/9）。第二に、任せる権限を最初に決める統治の形が整う可能性がある（ナデラ氏）。第三に、別の技術が医療を変える可能性が残る（Marcus）。

費用も三つある。第一に、エージェントの信頼性が低く、法律に触れる恐れがある。第二に、安全研究までAIが担えば、独立した検証が弱まる。第三に、収益が確かめられないまま、成長が鈍る中で投資が続く。

〔評議会推論〕この先の目印として、二つの予測を登録した。NISTが2027年3月末までに、AIエージェントの安全や身元管理を扱う文書を出す確率は70%。NVIDIAが同じ期間に、前の四半期を上回る売上高を発表する確率は85%である。