Claude、R&Dの26%を主導――検証者不在の再帰開発── AIが自分の後継を作る工程を、開発企業の自己申告だけで信頼する根拠はまだない

2026年9月17日、AnthropicはAIモデルClaudeが自社R&Dの26%を主導し、約3万体のAIエージェントが同時稼働していると公表した。AIが自分の後継モデルを作る割合が急増するなか、その開発の安全性を誰が検証するのか。開発企業が公表する指標だけでは検証にならず、ログと計測方法への独立した第三者のアクセスが必要になる。

01Claudeは半年前まで自社R&Dの1%未満しか担っていなかった

Anthropicが9月17日に公式ブログで公開した報告は、3つの数字を含んでいた。R&Dの作業のうちClaudeが「主導」する割合が26%、AIが何らかの形で関わる「協働」の割合が90%超、そして常時稼働するエージェントの数が約3万体。半年前の2026年2月時点で、主導率は1%に満たなかった。Washington Postの報道によれば、この数値はゼロから急伸したものだ。

ここで注意すべきなのは「主導」の定義だ。Anthropicは主導を「人間が監督し、AIが作業の大半を完了する」段階と定義している。つまりAIが設計判断に関与し、人間の役割が監督に移行しつつある。この26%は、AIがコードを書く補助役にとどまっていた段階からの質的な変化を意味する。

02AIが自分の後継を作ると、入力と出力の両方が同じ企業の中に閉じる

通常のソフトウェア開発では、作る側と使う側が分かれている。仕様を出す人、書く人、確認する人がそれぞれ存在する。再帰的なAI開発ではこの構造が変わる。開発プロセスの入力はモデルそのものであり、出力は次のモデルだ。入力と出力が同一組織の中に閉じる。

外部の研究機関が再現しようとしても、モデルの内部状態や学習データにはアクセスできない。Anthropicが公表した指標は透明性の試みとして意味があるが、その指標の妥当性そのものを外部が検証する手段は提供されていない。Reutersが報じた「AI企業に危険事象の公表義務があるのか」という問いは、この構造を背景にしている。

03検証なき再帰開発が進むほど、後から止める費用は増える

CNBCの報道によれば、Anthropicの安全計算資源はサンプル週の全体計算資源の約6%にとどまっていた。AI主導の研究に限れば12%に上がるが、それでも全体の1割強だ。約3万体のエージェントが1日に行う判断は膨大であり、そのすべてを人間が監督することは物理的に不可能な段階に入っている。

再帰開発は一度走り始めると、止めるための費用が時間とともに増える。モデルAが作ったモデルBの設計判断が、モデルCの学習データに組み込まれたとき、どこに問題があったかを遡って特定するには、すべての中間ログが必要になる。そのログを誰がどう保存し、誰がアクセスできるかが決まっていない。

04再帰的AI開発とは、モデルが自身の設計判断に関与する工程を指す

ここで境界を引く。AIが開発に関わる段階には少なくとも3つの段階がある。

Anthropicが26%と報告しているのは「主導」の段階だ。つまり人間はまだ監督している。しかし協働の90%超と合わせると、AIがまったく関与しない開発作業はすでに1割を切っている。再帰的AI開発の境界は「AIが単にコードを書く」ことではなく「AIが設計判断に関与し、人間は監督のみ行う」段階にある。

05資材審査では「作った人と確認する人を分ける」が制度化されている

製薬の資材審査では、販売情報提供活動に関するガイドラインが「資材等の適切性を確保するための審査・監督体制」の整備を求めている。作った資材を作った人が審査するのではなく、別の担当者が確認する。この分離は善意のある開発者であっても必要だ。意図とは関係なく、同じ立場の人間が作成と検証の両方を担えば、楽観方向への偏りが構造的に生じる。AI開発でも、この分離の原則は変わらない。

06自己評価が甘くなるのは動機の問題ではなく、構造の問題だ

Anthropicが指標を公開したこと自体は、業界の中で先進的な試みだ。他のAI企業で同等の数値を公表しているところはまだ少ない。しかし問題は善意の有無ではない。評価結果が自社の資金調達、規制への対応、市場での信頼に直結するとき、楽観方向へのバイアスは構造的に発生する。ただしここでの偏りは個人の認知の癖ではなく、組織の利害構造が生むものだ。

TechCrunchが報じた「AI安全論争は本当に『安全』の話なのか、それとも『支配』の話なのか」という問いは、この構造を別の角度から突いている。安全を自社で定義し、自社で計測し、自社で「達成した」と報告する構造は、安全の話であると同時に、誰がAI開発の速度を決めるかという支配の話でもある。

07未編集ログへの第三者アクセスがなければ再帰開発の安全性は確かめられない

再帰開発を外部から検証可能にするには、3つの条件が必要になる。

第一に、開発過程の未編集ログへの第三者アクセスだ。どのエージェントがどの判断を行い、その判断がどう次のモデルに反映されたかを、開発企業以外の機関が確認できなければならない。ログが編集可能な状態で提供されるなら、検証の意味は大きく減る。

第二に、計測方法の事前公開と再現可能性だ。「26%」「90%超」という数値がどの定義に基づき、どう計算されたかを事前に公開し、独立した研究者がその計測を再現できる必要がある。

第三に、安全計算資源の比率に下限を設けることだ。現在の6%というサンプル週の数値が恒常的なものかどうかは分からない。AI主導の研究で12%に上がるとしても、その比率を誰が監視し、下回ったときに何が起きるかは決まっていない。

資材審査の現場では、この構造は「AIが作ったものをAIに確認させない」という運用ルールに読み替えられる。AIが下書きした資材を、同じAIに「問題ないか」と聞いても、それは検証ではない。Bloomberg Lawが「暴走するAIエージェントは現実のものになった」と報じた時代に、検証者の独立性は制度設計の前提になる。