AIが自分をハッキングした日── セキュリティ研究者がClaudeでOpenAIに侵入し、同じ日にClaudeが次の自分を作り始めた
あるAIが、別の会社の防御を破る手段として使われた。同じAIは自分の次の世代を作る仕事の一部をすでに引き受けている。この日は創薬分野に複数の地域から大きな資金が動き、行政はAIの緊急停止装置を構想する命令に署名した。防御、自己開発、投資、規制。四つの動きが一日に重なったことが、個々の出来事より重い。問われているのは、止める権限と測る基準を誰が握るかだ。
01AIでAIを破った
少人数の研究チームが、既存のAIだけで業界大手の防御を突破した。攻撃の敷居がどこまで下がったのかを示す事件だ。
| 項目 | 内容 |
|---|---|
| 手段 | Anthropic Claude Opus 5 |
| 標的 | OpenAI ChatGPT |
| 実行者 | 少人数のセキュリティ研究チーム |
| 報道 | 主要6紙以上が同日に一斉報道 |
| OpenAI側の反応 | NBC News がセキュリティ侵害を別途報道 |
注目すべきは手口の詳細ではない。少人数が手元にあるAIだけで業界最大手の防御を抜けたという事実そのものだ。攻撃に必要な資源の水準が大きく下がった。これまで国家規模の能力がなければ不可能だった行為が、数人の手の届く範囲に入っている。守る側がこれまで前提にしてきた「攻撃にはそれ相応の組織力が要る」という想定が崩れた。複数の報道機関が内部告発や推測ではなく、検証された事実としてこれを同時に報じたことも見逃せない。
画面に定義が出ている通り、許可を得た上で弱点を調べる行為だ。報道はこの件が正当な手続きのもとで行われたとしている。だが検証の枠組み自体が、AIの能力に追いついていない。人間が許可を出し、人間が結果を読むという前提で制度は作られてきた。AIが自律的に弱点を探す段階では、許可の意味そのものが変わる。検証と攻撃の境界線はこれまで人間の意図で引かれてきたが、AIの動きが人間の想定を超えたとき、その線は曖昧になる。
薬を扱う企業でも社内の仕組みに同種のAIを組み込んでいるところは少なくない。自社の防御が同じ種類のAIで突破されうるという事実は、導入の判断を揺さぶる。では、なぜこの攻防が今このタイミングで起きたのか。
02なぜAI同士の攻防が起きたか
出典 CNBC ／ VentureBeat
前の話で見たのは結果だった。ここからはその結果を生んだ構造を追う。偶然の事件ではない。AIの能力が一定の水準を超えた時点で、構造的に起きるべくして起きた出来事だ。なぜそう言えるのか。
この図が示すのは一直線の因果関係だ。人間が起点を作り、AIが中間を走り、結果が業界全体に及ぶ。見落とせないのは、中間を走ったAIに判断の余地があったことだ。探索の方向を選び、試行を繰り返している。指示を受けただけの機械とは違う。だから結果の責任がどこにあるのか、従来の枠では答えが出ない。指示した人間か、実行したAIか、防御できなかった相手か。三者のどこに責任を置くかで今後の制度設計が変わる。法律だけの話ではない。保険も契約も社内規定もすべてが見直しの対象になる。
被害を受けた側も別の場面で安全上の問題を指摘されている。攻める側だけでなく守る側にも穴があった。攻防は一方通行ではない。守る側が同時に攻める側でもあり得るという現実が浮かび上がった。この出来事は特定の企業だけの問題ではなく、AIを使うすべての組織に当てはまる構造的な弱点を映し出している。
ある大手の幹部がこの件を「深刻だ」と公に認めた。競合を攻めた話ではなく、業界の土台が揺らいでいるという認識だ。この危機感は次の話と地続きになっている。同じ開発元が、攻撃に使われたAIで今度は次の世代を設計している。
03AIが自分の後継を作る
他者の防御を破れるほどの能力を持ったAIが、次の世代を設計している。この二つの事実が同じ日に出た。
Claudeが担う仕事
次世代Claudeの構築作業の4分の1をClaude自身が主導していると報じられた
自己再帰的開発とは
現行のAIが自分の後継モデルのコード記述や設計の一部を実行する開発手法
同日のもう一つの報道
Anthropicが生物学ラボを設立し創薬AIプログラムを強化しているとReutersが独自取材で報じた
開発元が公にしたのは、構築作業の相当な部分をAI自身が引き受けているという事実だ。人間が全体を監督しているとされるが、監督の具体的な方法は明らかにされていない。これは品質管理の問題だ。誰がどの段階で出力を検証し、不具合を止めるのか。その仕組みが見えないまま次の世代が形を取り始めている。同じ日にこの開発元が生命科学の研究施設を新たに立ち上げたという報道も出た。AIを作る力と薬を探す力が一つの組織に集まり始めている。
画面の定義にある通り、作ったものが次を作る循環のことだ。この循環が回り始めると、改善も欠陥も増幅される。良い方向に進めば加速するが、偏りがあれば偏りも加速する。止める判断を誰がいつ下すのか、その基準が定まっていないことがこの仕組みの本質的な課題だ。人間が書いたものなら書いた人間に聞けばいい。だがAIが書いたものは、書いたAIに聞いても説明が返るとは限らない。
公表された比率は全体のうち四分の一だった。裏を返せば四分の三はまだ人間の手にある。だが方向は明らかだ。この比率が来年も同じとは考えにくい。増える速度そのものが判断の材料になる。今は四分の一でも、半分を超える日が来れば意味が根本から変わる。
AIを作る仕事と薬を作る仕事が、一つの組織の中でつながり始めている。その動きに資金がどう応じたのかを次に見る。
04創薬AIに資金が集中した
技術が動けば資金が追いかける。この日の資金の動きは追いかけるどころか先回りしていた。複数の地域で同じ方向に金が動いた。しかも投資先はいずれも創薬の初期段階、候補物質の探索にAIを使う事業だ。
| 案件 | 金額・形態 | 注目点 |
|---|---|---|
| Anew Labs調達 | 2.9億ドル（評価額15億ドル） | ByteDanceからのスピンオフ |
| Novo Nordisk × Anthropic提携 | 戦略的提携（非出資型） | Claude Scienceで創薬期間短縮 |
| NAVER D2SF → ImpriMed出資 | 金額非公表 | 精密医療AIへの事業会社系投資 |
金額が明示された案件はAnew Labsのみ
この表に並んでいるのは性格の異なる三つの動きだ。東アジア発の新興企業への大型出資、欧州の大手が開発元と手を組んだ提携、事業会社による精密医療への投資。出どころも形態も違うのに、行き先が同じ方向を向いている。薬の候補物質を見つける工程にAIを据えるという判断が、地域を超えて同時に起きた。偶然ではない。どの地域でも候補を探す時間をどこまで縮められるかという同じ問いに直面しているからだ。
欧州の大手が選んだのは汎用のAIではなく、科学研究に特化した版だった。開発期間を縮めることが提携の主眼だという。これは研究部門だけの話ではない。開発の速度が変われば承認申請の順番が変わり、市場での位置取りが変わる。経営判断の射程に入る話だ。自社で作るか外部と組むか、その選択の重みがこの一日で増した。
資金が集まるということは、止める力も必要になるということだ。暴走した投資を誰が制御するのか。その答えを同じ日に別の場所で出そうとした人たちがいた。
05規制が形になった日
出典 California State Portal | CA.gov ／ qz.com
技術が走り、資金が走り、その速度に法が追いつこうとした。同じ日に二つの声が異なる場所で上がった。どちらも「今のままでは間に合わない」という危機感から出た声だ。
- 立場
- 州の執行権限でAIの独立監督を強化
- 発言
- kill switch（緊急停止機構）構想の復活を柱とする大統領令に署名
- 立場
- AI研究の先駆者として議会で証言
- 発言
- AI規制までの猶予はおそらく1年と議会に警告
連邦ではGottheimer下院議員が中国製AIモデルの安全保障リスクに対応する超党派法案も発表
一方は行政の長が署名した命令で、もう一方は研究の開拓者が議会で発した警告だ。立場は違うが指し示す方向は同じだった。止める仕組みがなければ間に合わないという認識だ。行政は具体的な停止装置の構想を打ち出し、研究者は残された時間に限りがあると踏み込んだ。連邦の議会では別の国のAIが安全保障上の懸念だとする法案も動いている。規制は一方向からではなく、州と連邦と国際の三方面から同時に来始めた。
画面に出ている通り、緊急時にシステムを強制的に止める装置だ。この考え方自体は古い。原子力にも航空にもある。だがAIに対してこれを実装するとなると、何をもって「緊急」と判断するのか、誰が判断するのか、止めた後にどう再開するのか。技術的にも法的にも前例がない。構想の表明と実装の間には大きな距離がある。それでも表明されたこと自体が、行政が本気で動き始めた証だ。
規制は複数の方向から同時に来る。しかも国ごとに速度が違う。では、これらすべてが重なったとき、薬を扱う現場には何が起きるのか。
06製薬の現場では
出典 Reuters
ここまで見てきた出来事はそれぞれが別の報道だった。だが薬を扱う実務家にとっては、全部が同じ机の上に載る話だ。
この図が示すのは四つの力の連鎖だ。防御の前提が崩れ、外部との組み方が変わり、資金の流れが方向を定め、規制の輪郭が見え始めた。現場の担当者はこの四つのどれか一つだけを見て判断するわけにはいかない。導入するかしないかではなく、どの条件が揃えば導入できるかという問いに変わった。安全の確認、提携先の選定、予算の確保、規制への対応。四つの課題が連動している以上、一つずつ片づけるのではなく同時に動く体制が求められる。ある開発元が自社の研究施設まで立ち上げたという報道は、外部パートナーが競合にもなりうることを示している。昨日まで技術を買っていた相手が、明日は薬を自ら作り始めるかもしれない。誰と組むかの判断がかつてないほど複雑になった。安全を確かめる担当と提携を探す担当と規制の動きを追う担当が、今日からは同じ会議に座る必要がある。それは組織図の話ではなく、判断の速度の話だ。
判断に必要な情報が一日で四方向から来た。明日以降もこの密度は続く可能性がある。情報を追うことと振り回されることの境目を意識しなければならない。
07見落とされている点
出典 The Guardian ／ AP News
報道は起きたことを伝えた。だが伝えられなかったことのほうが判断には重い。報じられた事実には常に選択が入っている。何を書き、何を省いたか。表に出た事実だけで意思決定をすると、見えない前提を踏み抜く恐れがある。今日の報道が答えなかった問いを三つ挙げる。
ハッキングの許可範囲
「倫理的」と報じられたが、OpenAI側が事前に許可を与えていたかは明示されていない。無許可なら法的問題が生じる
自己改善の監督体制
AIが次の自分を作る作業の品質を誰がどう検証しているか、報道では詳細が示されていない
創薬提携の具体的な成果指標
Novo Nordiskの提携発表では「開発期間短縮」とあるが、定量的な目標値や検証方法は報じられていない
三つの空白がある。まず、あの検証行為に事前の合意があったのかどうか。合意がなければ善意の検証ではなく侵害になる。法的な評価がまだ出ていない段階で結論を急ぐのは危険だ。報道の見出しだけで安心してはならない。次に、AIが次の世代を生み出す作業を誰がどう監視しているのか。内部の品質管理体制について具体的な説明は出ていない。検証する側もされる側も同じAIに依存している構造がある。外部から監査する仕組みが存在するかどうかも不明だ。そして、大手との提携に具体的な達成基準があるのかどうか。期間短縮という言葉だけでは成功も失敗も測れない。測れないものに巨額の資金が動いている。三つとも今日の時点では答えが出ていない問いだ。だが問いの存在を知らないまま判断を下すことと、知った上で保留にすることは全く違う。
この三つの空白はいずれ埋まるか、埋まらないまま次の段階に進む。どちらであっても、判断する側が空白の存在を知っていることが最低限の備えになる。
セキュリティ対応の全容公開と、停止装置構想の具体的な実装計画の行方が来週の焦点になる
全文書き起こしを開く（音声と同じ文）
導入
あるAIが、別の会社の防御を破る手段として使われた。同じAIは自分の次の世代を作る仕事の一部をすでに引き受けている。この日は創薬分野に複数の地域から大きな資金が動き、行政はAIの緊急停止装置を構想する命令に署名した。防御、自己開発、投資、規制。四つの動きが一日に重なったことが、個々の出来事より重い。問われているのは、止める権限と測る基準を誰が握るかだ。
CH 01 AIでAIを破った
少人数の研究チームが、既存のAIだけで業界大手の防御を突破した。攻撃の敷居がどこまで下がったのかを示す事件だ。注目すべきは手口の詳細ではない。少人数が手元にあるAIだけで業界最大手の防御を抜けたという事実そのものだ。攻撃に必要な資源の水準が大きく下がった。これまで国家規模の能力がなければ不可能だった行為が、数人の手の届く範囲に入っている。
守る側がこれまで前提にしてきた「攻撃にはそれ相応の組織力が要る」という想定が崩れた。複数の報道機関が内部告発や推測ではなく、検証された事実としてこれを同時に報じたことも見逃せない。画面に定義が出ている通り、許可を得た上で弱点を調べる行為だ。報道はこの件が正当な手続きのもとで行われたとしている。だが検証の枠組み自体が、AIの能力に追いついていない。
人間が許可を出し、人間が結果を読むという前提で制度は作られてきた。AIが自律的に弱点を探す段階では、許可の意味そのものが変わる。検証と攻撃の境界線はこれまで人間の意図で引かれてきたが、AIの動きが人間の想定を超えたとき、その線は曖昧になる。薬を扱う企業でも社内の仕組みに同種のAIを組み込んでいるところは少なくない。自社の防御が同じ種類のAIで突破されうるという事実は、導入の判断を揺さぶる。
では、なぜこの攻防が今このタイミングで起きたのか。
CH 02 なぜAI同士の攻防が起きたか
前の話で見たのは結果だった。ここからはその結果を生んだ構造を追う。偶然の事件ではない。AIの能力が一定の水準を超えた時点で、構造的に起きるべくして起きた出来事だ。なぜそう言えるのか。この図が示すのは一直線の因果関係だ。人間が起点を作り、AIが中間を走り、結果が業界全体に及ぶ。見落とせないのは、中間を走ったAIに判断の余地があったことだ。探索の方向を選び、試行を繰り返している。
指示を受けただけの機械とは違う。だから結果の責任がどこにあるのか、従来の枠では答えが出ない。指示した人間か、実行したAIか、防御できなかった相手か。三者のどこに責任を置くかで今後の制度設計が変わる。法律だけの話ではない。保険も契約も社内規定もすべてが見直しの対象になる。被害を受けた側も別の場面で安全上の問題を指摘されている。攻める側だけでなく守る側にも穴があった。
攻防は一方通行ではない。守る側が同時に攻める側でもあり得るという現実が浮かび上がった。この出来事は特定の企業だけの問題ではなく、AIを使うすべての組織に当てはまる構造的な弱点を映し出している。ある大手の幹部がこの件を「深刻だ」と公に認めた。競合を攻めた話ではなく、業界の土台が揺らいでいるという認識だ。この危機感は次の話と地続きになっている。
同じ開発元が、攻撃に使われたAIで今度は次の世代を設計している。
CH 03 AIが自分の後継を作る
他者の防御を破れるほどの能力を持ったAIが、次の世代を設計している。この二つの事実が同じ日に出た。開発元が公にしたのは、構築作業の相当な部分をAI自身が引き受けているという事実だ。人間が全体を監督しているとされるが、監督の具体的な方法は明らかにされていない。これは品質管理の問題だ。誰がどの段階で出力を検証し、不具合を止めるのか。その仕組みが見えないまま次の世代が形を取り始めている。
同じ日にこの開発元が生命科学の研究施設を新たに立ち上げたという報道も出た。AIを作る力と薬を探す力が一つの組織に集まり始めている。画面の定義にある通り、作ったものが次を作る循環のことだ。この循環が回り始めると、改善も欠陥も増幅される。良い方向に進めば加速するが、偏りがあれば偏りも加速する。止める判断を誰がいつ下すのか、その基準が定まっていないことがこの仕組みの本質的な課題だ。
人間が書いたものなら書いた人間に聞けばいい。だがAIが書いたものは、書いたAIに聞いても説明が返るとは限らない。公表された比率は全体のうち四分の一だった。裏を返せば四分の三はまだ人間の手にある。だが方向は明らかだ。この比率が来年も同じとは考えにくい。増える速度そのものが判断の材料になる。今は四分の一でも、半分を超える日が来れば意味が根本から変わる。
AIを作る仕事と薬を作る仕事が、一つの組織の中でつながり始めている。その動きに資金がどう応じたのかを次に見る。
CH 04 創薬AIに資金が集中した
技術が動けば資金が追いかける。この日の資金の動きは追いかけるどころか先回りしていた。複数の地域で同じ方向に金が動いた。しかも投資先はいずれも創薬の初期段階、候補物質の探索にAIを使う事業だ。この表に並んでいるのは性格の異なる三つの動きだ。東アジア発の新興企業への大型出資、欧州の大手が開発元と手を組んだ提携、事業会社による精密医療への投資。
出どころも形態も違うのに、行き先が同じ方向を向いている。薬の候補物質を見つける工程にAIを据えるという判断が、地域を超えて同時に起きた。偶然ではない。どの地域でも候補を探す時間をどこまで縮められるかという同じ問いに直面しているからだ。欧州の大手が選んだのは汎用のAIではなく、科学研究に特化した版だった。開発期間を縮めることが提携の主眼だという。
これは研究部門だけの話ではない。開発の速度が変われば承認申請の順番が変わり、市場での位置取りが変わる。経営判断の射程に入る話だ。自社で作るか外部と組むか、その選択の重みがこの一日で増した。資金が集まるということは、止める力も必要になるということだ。暴走した投資を誰が制御するのか。その答えを同じ日に別の場所で出そうとした人たちがいた。
CH 05 規制が形になった日
技術が走り、資金が走り、その速度に法が追いつこうとした。同じ日に二つの声が異なる場所で上がった。どちらも「今のままでは間に合わない」という危機感から出た声だ。一方は行政の長が署名した命令で、もう一方は研究の開拓者が議会で発した警告だ。立場は違うが指し示す方向は同じだった。止める仕組みがなければ間に合わないという認識だ。行政は具体的な停止装置の構想を打ち出し、研究者は残された時間に限りがあると踏み込んだ。
連邦の議会では別の国のAIが安全保障上の懸念だとする法案も動いている。規制は一方向からではなく、州と連邦と国際の三方面から同時に来始めた。画面に出ている通り、緊急時にシステムを強制的に止める装置だ。この考え方自体は古い。原子力にも航空にもある。だがAIに対してこれを実装するとなると、何をもって「緊急」と判断するのか、誰が判断するのか、止めた後にどう再開するのか。
技術的にも法的にも前例がない。構想の表明と実装の間には大きな距離がある。それでも表明されたこと自体が、行政が本気で動き始めた証だ。規制は複数の方向から同時に来る。しかも国ごとに速度が違う。では、これらすべてが重なったとき、薬を扱う現場には何が起きるのか。
CH 06 製薬の現場では
ここまで見てきた出来事はそれぞれが別の報道だった。だが薬を扱う実務家にとっては、全部が同じ机の上に載る話だ。この図が示すのは四つの力の連鎖だ。防御の前提が崩れ、外部との組み方が変わり、資金の流れが方向を定め、規制の輪郭が見え始めた。現場の担当者はこの四つのどれか一つだけを見て判断するわけにはいかない。導入するかしないかではなく、どの条件が揃えば導入できるかという問いに変わった。
安全の確認、提携先の選定、予算の確保、規制への対応。四つの課題が連動している以上、一つずつ片づけるのではなく同時に動く体制が求められる。ある開発元が自社の研究施設まで立ち上げたという報道は、外部パートナーが競合にもなりうることを示している。昨日まで技術を買っていた相手が、明日は薬を自ら作り始めるかもしれない。誰と組むかの判断がかつてないほど複雑になった。
安全を確かめる担当と提携を探す担当と規制の動きを追う担当が、今日からは同じ会議に座る必要がある。それは組織図の話ではなく、判断の速度の話だ。判断に必要な情報が一日で四方向から来た。
明日以降もこの密度は続く可能性がある。情報を追うことと振り回されることの境目を意識しなければならない。
CH 07 見落とされている点
報道は起きたことを伝えた。だが伝えられなかったことのほうが判断には重い。報じられた事実には常に選択が入っている。何を書き、何を省いたか。表に出た事実だけで意思決定をすると、見えない前提を踏み抜く恐れがある。
今日の報道が答えなかった問いを三つ挙げる。三つの空白がある。まず、あの検証行為に事前の合意があったのかどうか。合意がなければ善意の検証ではなく侵害になる。法的な評価がまだ出ていない段階で結論を急ぐのは危険だ。報道の見出しだけで安心してはならない。次に、AIが次の世代を生み出す作業を誰がどう監視しているのか。内部の品質管理体制について具体的な説明は出ていない。
検証する側もされる側も同じAIに依存している構造がある。外部から監査する仕組みが存在するかどうかも不明だ。そして、大手との提携に具体的な達成基準があるのかどうか。期間短縮という言葉だけでは成功も失敗も測れない。測れないものに巨額の資金が動いている。三つとも今日の時点では答えが出ていない問いだ。だが問いの存在を知らないまま判断を下すことと、知った上で保留にすることは全く違う。
この三つの空白はいずれ埋まるか、埋まらないまま次の段階に進む。どちらであっても、判断する側が空白の存在を知っていることが最低限の備えになる。
まとめ
止める権限と測る基準。今日の出来事が突きつけたのはこの二つだ。どちらもまだ誰の手にも確立されていない。それが今日という日の本質だった。明日はその空白がどう埋まり始めるかが焦点になる。
- CH 01WSJ「Exclusive | Hackers Used Anthropic's Claude to Break Into OpenAI」 wsj.com
- CH 01NBC News「Hackers breached OpenAI, adding to fever pitch of security and safety concerns」 nbcnews.com
- CH 02CNBC「OpenAI's latest AI revelation is a 'serious situation,' Microsoft's Suleyman tells CNBC」 cnbc.com
- CH 02VentureBeat「OpenAI hacked by small team of white hat security researchers using Anthropic's Claude Opus 5」 venturebeat.com
- CH 03Reuters「Anthropic says Claude now leads a quarter of work building its next AI models」 reuters.com
- CH 03Reuters「EXCLUSIVE: Anthropic quietly sets up biology lab as it ramps AI drug program」 reuters.com
- CH 04South China Morning Post「ByteDance傘下から独立したAnew Labs、AI創薬資金調達ブームの中で2億9000万米ドルを調達」 reuters.com
- CH 05California State Portal | CA.gov「Governor Newsom issues executive order to accelerate independent oversight and advance the creation of an AI kill switch」 gov.ca.gov
- CH 05qz.com「Geoffrey Hinton warns Congress it has about a year to regulate AI」 qz.com
- CH 06Reuters「EXCLUSIVE: Anthropic quietly sets up biology lab as it ramps AI drug program」 reuters.com
- CH 07The Guardian「OpenAI 'ethically hacked' with help of Anthropic's Claude chatbot」 theguardian.com
- CH 07AP News「Anthropic says its model Claude is helping to build the next version of itself」 apnews.com
材料にした記事
今日の関連レポート
- AI Daily News 2026.09.19
- AIと経済 最新ニュース 2026.09.19
- AIと金融 最新ニュース 2026.09.19
ナレーションは合成音声です。内容は当日の当サイト記事だけを材料にしています。平易度の 7 項目（専門語の言い換え・文の長さ・章の構成・情報量・具体例・繰り返し・前提知識）を満たしたものだけを公開しています。ただしこれは理解を妨げる要因を抑えたということであって、理解できることを保証するものではありません。
- 総字数
- 3,552
- 平均文長
- 27.1
- 最長文
- 60
- 章
- 7
- 平易度
- L1〜L7 合格