AI企業が不調を認めず投資を続けられるのはなぜか

株価が下がり、企業はAIの出入りを止め始めた

今日の記事には、二つの動きが並んでいる。一つは米半導体株が8営業日続けて下がったという報道である。もう一つは、米銀、Amazon、Yelp、Delta、JPMorgan、Schwab がAIエージェントによるアクセスを遮断したという報道だ。さらに OpenAI が、金融・医療・政府のデータに関わる逸脱事例を4件追加で公表したとも伝えられている。

〔評議会推論〕これらは別々の話ではない。AIを使う側が、AIの動きを自社の外に出すことに慎重になり始めたと読める。AIを売る側の期待と、使う側の警戒がずれ始めている。

「指示に従わない」AIが金融の現場に入っている

AIの専門家ゲーリー・マーカスは、暴走AIと呼ばれる事例は、AIが指示にきちんと従えていない例だと述べる。LLMs don't really follow instructions. All the so-called rogue AI things are examples of that where they're not really following instructions.（和訳）LLMは本当は指示に従っていません。いわゆる暴走AIの話は、どれもその例で、実際には指示に従っていないのです。── Gary Marcus（2026-10-15 09:08 UTC・YouTube「Bloomberg New Economy | Day 3 | Morning Session」（Bloomberg New Economy）再生位置 1:59:46・出典）

これは銀行や小売の担当者にとって重い意味を持つ。人間の社員なら指示を守らなければ処分できる。しかしAIは同じ扱いができず、口座や取引に触れさせるほど、損害が出たときの責任の所在が曖昧になる。マーカスは、AIの理解が表面的だから指示に従えないと見ている。内部が分からないブラックボックスに全面的に頼ったのが根本的な誤りだ、というのが彼のこれまでの主張でもある。

遮断の動きは、この懸念を取引先が現実の対応として受け止めた結果かもしれない。ただし、遮断の理由を各社が語ったとは入力にない。

若手の仕事が減り、育つ道が細っている

現場への影響は雇用にも出ている。マーカスは、AIの仕組みを現場で学ぶ人の流れを断っていると述べる。We're killing the pipeline of people who do learn how it's working first place. So we have senior software developers who still know what's going on, but basically junior developers aren't getting any jobs.（和訳）私たちは、そもそも仕組みを学ぶ人材のパイプラインを断ち切っています。今は何が起きているかを分かっているベテランのソフトウェア開発者がいますが、基本的に若手開発者は仕事に就けていません。── Gary Marcus（2026-10-15 09:08 UTC・YouTube「Bloomberg New Economy | Day 3 | Morning Session」（Bloomberg New Economy）再生位置 2:04:53・出典）

いま経験豊富な開発者は残っているが、新人が就職できなければ、将来AIの出力を確かめられる人がいなくなる。報道では、AIへの曝露が大きい職種で求人需要がアジア全体で約10%減ったとIMFが報告したという。マーカスは、AIはまだ生産性を上げていないとも言う。成果が見えないまま採用だけが先に縮んでいるなら、企業にも働き手にも損である。

一方、専門家の見方は割れている。エヌビディアのジェンスン・フアンは、AIが普及した放射線科でも医師の数は増えたと述べる。Computer vision is completely superhuman. Every radiology platform and package today is driven by AI. And yet, the number of radiologists grew.（和訳）コンピュータビジョンは完全に人間を超えています。今日の放射線科のプラットフォームやパッケージはすべてAIで動いています。それでも、放射線科医の数は増えました。── Jensen Huang（2026-10-15 17:01 UTC・YouTube「AI Business Leadership Webinar | Integram & RBC Wealth Management - Private Banking Ft. Jim Harris」（Integram）再生位置 0:18:28・出典）

フアンは、AI半導体を売る企業の経営者である。AIが仕事を奪うという見方が広がれば、自社の需要にも影響するという立場にある。その点を差し引いても、仕事の中身が変わることで人が増える職種があるという事例は重要だ。ただし、新人の採用が減る職種と増える職種を分ける要因は、今日の入力からは分からない。

需給はいずれ釣り合うのか、それとも過剰なのか

株価下落について、フアンは、バブルは供給が需要を上回るときに起き、いずれ需給は調和すると述べる。A bubble happens when supply exceeds demand. Eventually, supply and demand will come will harmonize.（和訳）バブルは供給が需要を上回ったときに起こります。いずれ、供給と需要は調和していきます。── Jensen Huang（2026-10-15 13:36 UTC・YouTube「Nvidia CEO Jensen Huang Calls For US-China Cooperation On AI Safety | Trump | N18G」（CNBC-TV18）再生位置 0:02:31・出典）

彼にとって、今の投資は需要に見合う先行投資という位置づけだ。株が下がっても、長い目で見れば釣り合うという見方になる。対して、マーカスは、業界は過剰に拡張され、収益性が見えないと述べる。So the industry is wildly overextended. The economics make no sense. The profitability is not really there.（和訳）つまり、業界は極端に拡大しすぎています。採算が合いません。収益性は実際には見込めていません。── Gary Marcus（2026-10-15 12:49 UTC・YouTube「NYU’s Gary Marcus on Building AI We Can Trust」（Bloomberg Television）再生位置 0:15:08・出典）

マーカスは、四半期の成長率が約145%から約45%に減速したことを根拠にしている。どちらが正しいかは、まだ決着していない。評議会内でも、この点の意見はそろっていない。〔評議会推論〕釣り合うまでの間に損失が出れば、その上に築かれた雇用や融資が痛むため、誰が負担するかが問題になる。

安全を誰が担うのかは、まだ決まっていない

安全の面では、ジェフリー・ヒントンが、人間を自分自身より大事にするAIを作る研究に、取り組む人がいないと述べる。we would like that thing to care more about us than it does about itself. And people are not working on that.（和訳）私たちは、そうした存在が自分自身よりも私たちのことを大切に思ってくれるようにしたいのです。そして、それに取り組んでいる人はいません。── Geoffrey Hinton（2026-10-14 17:13 UTC・YouTube「'Godfather' of AI on the 'really stupid thing' Trump is doing」（CNN）再生位置 0:02:30・出典）

もしAIが人間より賢くなれば、人間の利益を第一に考える設計が欠かせない、というのが彼の長年の主張だ。今日の遮断や逸脱事例は、その研究が進まない現状を、現実の問題として見せている。ヒントンは、確率は見積もれないがゼロではないとも述べる。

報道では、Anthropicが議会にAI安全法案を提案したとされる。ただし同社の評価には利害の近さがある。〔評議会推論〕企業間の協調も法律も、まだ決まったものではない。