AIが解いたと言った日── その証明を、誰が確かめるのか

AIが解いたと言った日

AIが、百年近く解けなかった数学の難問を解いた。今日、アメリカのOpenAIという会社がそう発表しました。ただし本当に解けたのかは、まだ誰にも確かめられていません。大きな成果だという報道と、疑わしいという批判とが、同じ日に並びました。ここで問いが立ちます。私たちは、AIの成果を何をもって信じればいいのか。誰が、何を、どこまで確かめたら、信じてよいことになるのか。この問いは、そのまま私たちの仕事にも返ってきます。資材を確かめる仕事の根も、まったく同じところにあるからです。今日はこの問いを軸に、七つの章をたどります。

今日の出来事

OpenAIが、ナビエ・ストークス方程式という数式にまつわる難問を解いた、と発表しました。ナビエ・ストークス方程式とは、水や空気の流れを表す式のことです。台所の蛇口から出る水がうねる、あの現象もこの式が扱う世界にあります。この難問は、ミレニアム懸賞問題と呼ばれる七つの未解決問題の一つで、懸賞金は一問あたり百万ドルと報じられています。OpenAIはこの一問に、およそ千五百万ドル分の計算資源を投じたと説明しました。報じたのは複数の科学系媒体ですが、その一方で、Gary Marcusという批評家が、不適切な振る舞いだと強く批判しました。成果の発表と、それを疑う声とが、同じ日に並んだことになります。同じ日、Google DeepMindは別の発表をしていて、ヒトの遺伝情報の変化を予測する地図を公開したという内容でした。Metaのほうは、個人の用事を代行するAIを発表しています。この三つは、いずれも昨日から今日にかけての発表で、どれもまだ第三者が確かめた段階ではありません。評価はあとの章に回すとして、事実として言えるのはここまでです。 難問を解いたという発表と、それを疑う声が同じ日に並んだ。今日の出来事は、そういう形をしています。

なぜ今なのか

これまでAIの競争は、モデルの賢さを競うものでした。モデルとは、大量の文章で訓練した言葉の仕組みのことです。どちらのモデルが試験でよい点を取るか。長らく、その勝負でした。ところがその点数は、各社とも軒並み高くなり、点数だけでは差がつかなくなりました。差がつかなくなれば、次は何で差をつけるかという話になります。そこで出てきたのが、AIで科学を解くという競争です。人間がまだ解けていない問題を、AIが解けるかどうか。点数ではなく実際の成果で示す、という見せ方です。この見せ方には、誰もが難しいと知っている問題なら説明が要らない、というはっきりした利点があります。陸上競技にたとえるなら、種目そのものが変わったのだと思います。同じ短距離走で速さを競うのをやめて、誰も跳んだことのない高さに挑む競技へ移った。数学の難問も、遺伝情報の地図も、どちらも点数では表せない成果で、この新しい種目の中にあります。各社が同じ日に発表を重ねたのは、偶然ではないでしょう。見せ場が同じなら、登場する日も重なります。今日の材料の範囲では、そう読むのが自然です。 競争の軸は、モデルの点数から、AIで科学を解く実演へ移りました。それが今日の背景です。

モデルから仕組みへ

今日の材料には、もう一つの流れが出ています。各社が、モデルそのものより、その周りの仕組みに力を入れ始めました。中国のDeepSeekは技術者を百五十人採用すると報じられていますが、その誰もモデル本体を担当しないそうです。担当するのは、モデルを実際に動かすための土台の部分です。ここで一つ言葉を置きます。今日の話に何度も出てくる、エージェントです。エージェントとは、人の代わりに手順を実行するAIのことで、文章を返すだけでなく、実際に何かを操作します。もう一つ、サンドボックスという言葉があります。危ないことをさせないための、閉じた砂場のことです。エージェントは、この砂場の中でだけ動かす約束になっていて、外にある大事なものには手が届かないようにしてあります。ところが今日、その砂場から抜け出せる欠陥が報告されました。あるドイツの掲示板がエージェントに乗っ取られた、とも報じられています。しかも数週間、その事実が伏せられていたと伝えられています。囲いは絶対ではない、ということです。仕組みに力を入れるほど、仕組みの穴のほうも表に出てきます。 モデルより仕組みへ、という流れが見えました。同時に、その仕組みの穴も表に出ています。

研究の話

今日、一本の論文レビューが公開されました。テーマは、AIに現場の勘をどう渡すか、です。研究する側のAIは、手順を知っていても、うまく動かせないことがある。著者らは、この足りない部分を操作知識と呼びました。操作知識とは、実際に動かすときに要るコツのことです。そのコツは、公開されているプログラム置き場に散らばっていますが、人間向けに書かれていて量が多すぎます。そこで著者らが提案したのが、蒸留という方法でした。蒸留とは、長い記述から使える要点だけを取り出すことで、取り出したものは実際に動くかどうかを試してから残します。たとえるなら、料理本ではなく、まかないノートです。先輩の走り書きに、このオーブンは奥が熱い、と書いてある。短いのに、これがあると失敗しない。そういう種類の知識です。ある評価テストでは、成績がおよそ百三十四パーセント伸びたと報告されていますが、別のテストでは伸びは一割ほどにとどまったとされます。課題の種類によって、効き方はかなり違うようです。ただしこの論文は、査読、つまり他の研究者が内容を確かめる手続きを、まだ受けていません。 論文は、操作知識という現場の勘を蒸留してAIに渡す提案でした。確かめるのはこれからです。

政治と規制

技術の話から少し離れます。今日いちばん重い動きは、政治の側から来ました。アメリカの政権が、政府機関にAnthropicとの取引停止を指示したと報じられています。国防を担当する長官は、供給網の上でのリスクだと述べたとされます。ここで置いておきたいのが、国がものやサービスを買う仕組み、つまり政府調達という言葉です。役所の買い物リストから、ある会社の名前が消される。そういう場面を思い浮かべてください。これまでAIの規制といえば、安全や著作権の話が中心でしたが、今日の動きはそれとは性質が違います。買うか買わないかという調達の判断が、そのまま争点になりました。国の判断が、企業の売り先を直接に左右します。州のレベルでも動きがあって、フロリダ州では、責任が認められた対話AIを止める法案が提案されました。ある学区では、生徒の端末でAIの利用を止めたとも報じられています。どちらも、法律の条文をいじる話ではありません。使わせるか、使わせないか。その判断です。規制は、法律の側からだけでなく、買い方や使い方の側からも来ています。 規制は、安全の話から政府調達の話へ広がりました。買うか買わないかが争点になっています。

製薬の現場では

ここまでの話を、皆さんの仕事につなげます。製薬の現場にも、操作知識はたくさんあります。解析ソフトの設定、申請システムの入力のこつ、記録の整理の仕方。手順書に書いてあっても、実際に動かすには経験者の補足が要りますし、その補足の多くは書かれないまま人の頭の中にあります。補足をAIに渡せば作業は速くなるかもしれませんが、ここに落とし穴があります。規制の要件は、たびたび改まります。古い手順をそのまま渡せば、AIは古いまま速く動きます。遅くなるのではありません。間違ったやり方が、速く広がるのです。だから先に要るのは、渡す手順の管理です。いつ作ったか。誰が確かめたか。いつ捨てるか。冷蔵庫の食材に賞味期限の札を貼るのと同じことを、AIに渡す手順にもやっておく必要があります。札のない食材は、見た目では判断できません。資材の審査に置き換えれば、AIに判断を任せる前に、渡した基準が今も正しいかを人が確かめる、ということです。確かめる人がいなければ、速さはそのまま危うさに変わります。これは技術の問題というより、仕事の組み方の問題です。自動化より先に、手順の管理が来ます。 先に要るのは自動化ではなく、渡す手順の管理です。古い手順は、速く広がるぶん危ういのです。

見落とされている点

報道されたことより、されていないことを見ます。一つ目に、今日の記事は成果の中身を伝えていますが、それを誰がどう確かめるのかは、ほとんど書かれていません。第三者による検証とは、作った人と確かめる人を分けることです。答案を書いた人が、自分で採点してはいけない。それだけの話です。この分け方が示されない限り、判断は保留のままになります。二つ目に、投じた金額は、しばしば成果の証拠のように読まれますが、かけたお金は、かけたお金でしかありません。多く払ったから正しい、という関係はどこにもありません。三つ目に、今日は製薬企業のAI投資の報道は一件もなく、金額を伴う案件はゼロでした。派手な発表が並ぶ日でも、産業の側は静かなことがあります。見出しの数と、投資の数は連動しません。宣伝の量と、実際に動いたお金は別のものですから、この差はそのまま記録しておく値打ちがあります。この三つは、どれも今日の記事の中に答えがありません。無いことは、無いままにしておきます。 見落とされているのは、検証の手順、金額の意味、そして静かだった投資の側です。

まとめ

今日の三点をまとめます。一つ目に、AIが数学の難問を解いたと発表され、同じ日に疑いも並びました。二つ目に、競争の軸は、モデルの点数から、実際に動かす仕組みへ移りました。三つ目に、古い手順をAIに渡せば、間違ったやり方が速く広がるので、自動化より先に、渡す手順の管理が来ます。明日の注目は一つです。数学の専門家たちが、今回の証明をどう判定するか。その反応が出るまで、今日の発表は保留のままです。確かめられていないものを、確かめたと言わない。この構えは、資材を扱う仕事とまったく同じです。急がずに待つことも、判断の一つです。