1. この論考は何を問題にしているか

問題にしているのは、AI がどれだけ役に立つかではなく、AI を先へ進めてよいかをどの基準で決めるかである。著者は、生成 AI とエージェント型 AI の利用が広がるにつれて出てきた懸念を四つ並べる。人の関与を置き換えること、人の監督を越えること、倫理と技術の歯止めを無視すること、そして環境に取り返しのつかない害を重ねていくことである[1]。著者はこれらを、地球上の生命にとって壊滅的になりうる結果につながるものとして扱う。

著者の Yvette Running Horse Collin は、伝統科学の研究機関 Taku Škan Škan Wasakliyapi: Global Institute for Traditional Sciences（GIFTS）の事務局長で、科学部門の責任者でもある[2]。この論考は Science 誌に掲載された一頁の論考で、実験や調査の結果を報告する研究論文ではない。書誌情報からは、外部の査読を経た記事かどうかは確認できない。以下は、著者の主張とその筋道を読むものである。

この問いが製薬の読者に関係するのは、新しい技術を「使えるか」より先に「使ってよいか」を問う場面が、医薬品の開発と規制の日常にあるからだ。その問いを、効能と害を比べる発想とは別の前提から立てると何が見えるか。論考はそれを示している。

2. 何を主張しているか

主張の芯は一つに絞れる。生命への害をできるだけ小さくすることを科学の条件に置けば、いまの構成の AI はその条件を満たさない、というものである[1]。著者は Lakota の文脈では、科学は生命に与える害をできる限り少なくしなければならないと述べる。この前提に立てば、先に挙げた懸念が「起こりうる」というだけで、現在の構成のまま AI を公開し続けることを直ちに止める理由になる、と著者は書く。

ここで注意したいのは、著者が懸念の起こりやすさや大きさを見積もってから判断しているわけではない点である。害が起こりうること自体が、先へ進まない理由になる。害と便益を並べて差し引きを見る考え方とは、判断の順序が違う。

もう一つの柱は、問いそのものの違いである。著者によれば、先住民の科学が問うものは、AI がいま答えようとしているもの、あるいは答えられるものとは根本的に異なる[1]。abstract の範囲では、その「異なる問い」の中身は詳しく展開されていない。それでも著者は、将来の形の AI が先住民の科学と整合する道までは閉じていない。論考の題がそのまま問いの形になっているのは、このためだと読める。

3. 何を示したか ── abstract に書かれた範囲だけ

この論考は主張を述べる文章であり、データや実験の結果を示してはいない。abstract に書かれているのは、次の三つの段の議論である[1]。

abstract の範囲では、「現在の構成」が具体的にどの技術や運用を指すのか、どの条件が満たされれば「整合した」と言えるのかは示されていない。本文が一頁であることを考えると、具体的な条件の一覧を期待する文章ではないとも読める。いずれにしても、ここから「AI を止めるべきだという結論が出た」と受け取るのは誤りである。示されているのは、一つの科学の伝統から見た判断の筋道である。

4. 具体例で見る

製薬企業の社内で、文書作成にエージェント型 AI を導入するかを検討する会議を考える。同じ導入案でも、どこから問いを立てるかで議論の順序が変わる。

性能と効率から出発する問い

その仕組みで、文書をどれだけ速く、正確に、安く作れるか。誤りや情報漏れのおそれは、導入後に手当てする対策項目として一覧に並ぶ。便益が対策の費用を上回れば先へ進む。

害の最小化から出発する問い（論考の立場）

その仕組みは、人の判断を置き換えないか。人の監督を越えて動かないか。歯止めを外して使われないか。動かすことで環境に何を負わせるか。これらに答えが出ないうちは、性能の議論には進まない。

左の列は、医薬品の評価で慣れ親しんだ便益と危険の比較に近い。右の列は、比較に入る前の入口に条件を置く。論考が求めているのは右の列の順序であり、左の列の問いを捨てることではない。ただし、右の列の条件をどこまで厳しく取るかについて、abstract は具体的な線を引いていない。

5. 何が新しくないか／限界はどこか

先住民の知の体系と AI の関係を論じる研究は、この論考より前から積み重なっている。先住民と AI に関する文献の系統的レビューは、AI が先住民の知を広める助けになりうる一方で、文化的な知の浸食や、先住民のデータ主権を無視したデータの持ち出しという危険があると整理している[3]。同じレビューは、先住民の知が AI の開発そのものを良くしうるという研究の流れも挙げている。論考の「害を最小にすることを科学の条件に置く」という立場は、この議論の中で新しく生まれたものではなく、一つの伝統の立場を Science 誌の読者に向けて明確に述べたものと位置づけられる。

限界は三つある。第一に、この文章は一人の著者による論考で、Lakota の文脈を語っている。先住民の科学一般を一つの立場として代表するものではないし、著者もそうは述べていない。第二に、abstract の範囲では「現在の構成の AI」の範囲が示されていない。特定の製品を指すのか、大規模な学習と公開の仕方全体を指すのかで、読み方は大きく変わる。第三に、「起こりうる害があれば止める」という基準をそのまま当てはめると、多くの技術が同じ判定を受ける。著者がこの点をどう扱うかは、abstract からは読み取れない。

そのうえで、この論考が「重要論文」として選ばれた理由も確かめておく。収集の仕組みは、高インパクト誌への掲載と、独立した媒体による紹介という二つの条件で選ぶ。しかし掲載も紹介も、主張の正しさ、臨床での価値、新しさを示すものではない。この論考の場合は、次の節で見るように、紹介の条件そのものが疑わしい。

6. 紹介記事は何をどう伝えたか

収集の仕組みがこの論考の紹介記事として拾ったのは、三つの見出しである。カナダ政府のイノベーション・科学・経済開発省（ISED Canada）による「カナダの国家 AI 戦略」、Nature の「IPCC の AI への取り組みの将来像」、UNESCO の「ナミビアが AI 準備状況の評価報告書を公表」である。

三つの見出しのどれにも、この論考の題、先住民の科学、Lakota という語は出てこない。収集の仕組みは、論考の題から取った語と誌名を組み合わせて報道を検索しており、見出しが AI 政策や AI 評価という広い主題で当たった可能性が高い。見出しから読む限り、三つはこの論考を紹介した記事ではない。本記事はこれらの記事の本文を確認しておらず、本文中で論考に触れているかどうかは分からない。

このずれは、読み手にとって次の意味を持つ。「独立した三つの媒体が紹介した」という条件は、機械的には満たされたが、内容としては確かめられていない。したがって、この論考が「研究の外へ届いた」と言える根拠は、現時点では見当たらない。重要と判定された根拠は、実質的には Science 誌への掲載という一点に限られる。掲載直後のため被引用数は 0 で、ここからも外への広がりは測れない。

7. 製薬・規制の現場から見ると何が接続するか

接続は二つある。一つ目は判断の順序である。医薬品の承認審査は、効能と害を比べて差し引きを見る考え方を基本にしている。論考の立場は、比べる前の入口に「生命への害をできる限り小さくする」という条件を置く。社内で AI の導入を審査するとき、性能評価の項目とは別に、人の判断を置き換える範囲、監督の届かない動作、止める権限を誰が持つかを最初に確かめる項目として立てることは、この論考の問いを実務に移す一つの形になる。

二つ目はデータの扱いである。創薬や臨床研究では、特定の集団の遺伝情報や健康情報が使われることがある。先住民のデータの扱いについては、集団にとっての利益、管理する権限、責任、倫理を柱とする CARE 原則が提案されている[4]。個人ごとの同意だけでなく、集団としての決定権をどう扱うかという問いは、こうしたデータで AI を学習させる計画を立てるときに避けて通れない。先に挙げた系統的レビューが指摘したデータの持ち出しの危険[3]は、製薬の研究計画にもそのまま当てはまる。

研究企画:このデータセットで予測モデルを学習させたい。参加者全員から個別の同意は取ってある。

倫理審査:データの元になった地域の共同体は、この使い方を知っているか。共同体として決める仕組みがあるなら、そこに諮ったかを確かめたい。

研究企画:個別同意で足りると考えていた。共同体との取り決めは確認していない。

倫理審査:では、そこを確かめるまで学習は始めない。性能の見込みの話はその後にしよう。

この論考から、製薬の現場で何をすべきかが直接導けるわけではない。言えるのは、AI の導入を問う順序を一度見直す材料になる、というところまでである。