01論文の配信を作る前に、運営者が最初に頼んだのは定義だった
運営者は 2026 年 9 月に、AI の最新論文を毎日届ける仕組みを作ろうとした。論文を集めるプログラムや配信の画面ではなく、最初に AI に頼んだのは「hot topic とは何か」の定義だった。
AI が返した定義は、1 本の論文が注目を集めた状態ではない、というところから始まった。同じ問いに対して、互いに独立した複数の兆候が短期間に同時に立ち上がった状態を指す、と AI は書いた。
この定義が決まったことで、次に何を測ればよいかがはっきりした。兆候を数えるための系統も、どの情報源から取るかではなく、誰が反応しているかで分けることになった。集めるプログラムの設計は、定義の後に自然に決まった。
02定義が先にあると、集めた情報に判断の基準がつく
情報を集めてから整理するのと、定義を決めてから集めるのでは、結果が違う。先に集めると、量は増えるが、どれが重要かを後から決める作業が残る。先に定義を決めると、集めた時点で「これは該当する」「これは該当しない」が分かる。
運営者の例では、定義の中に「独立した複数の兆候」という条件が入った。この条件があれば、1 つの情報源だけで騒がれている話題は除外できる。集めたあとに 1 件ずつ判断する手間がなくなる。
| 見るところ | 集めてから定義する | 定義してから集める |
|---|---|---|
| 集まる量 | 多い(基準がないため全部入る) | 必要なものだけ入る |
| 整理の手間 | 集めた後に分類・選別が要る | 集めた時点で分類済み |
| 判断の再現性 | 担当者が変わると基準が揺れる | 定義が文書化されているので揺れにくい |
| 設計への影響 | 後からフィルターを足す | 最初から構造が決まる |
03定義なしに集めると、設計のやり直しが増える
対象の定義がないまま情報を集めると、二つの問題が起きる。一つは、何を残して何を捨てるかの判断が、そのつど人の感覚に頼ることになる。もう一つは、集めた後に分類の軸を変えたくなったとき、集め直しになることである。
運営者の記録では、兆候の系統を最初は情報の提供元で分けようとした。ある論文紹介サイトの読者の票と、同じサイトの開発者向けの評価を「同じ系統」にまとめた。すると、読者の票と開発者の評価の両方で高い数値を持つ論文が、1 系統としか数えられず、拾い上げの対象から落ちた。
AI は、票を投じた人の集団が違うなら、それは別の系統だと指摘した。提供元が同じでも、読者と開発者は別の母集団である。この修正は、定義の中に「独立した」という語があったから生まれた。もし定義がなければ、何が独立で何が独立でないかを判断する根拠がなかった。
Anthropic の開発者向け文書は、AI への指示を磨く前に、まず成功の基準を決めておくことを勧めている。基準とは、うまくいったかどうかを測れる形にした定義のことである。
04ここでいう定義とは、該当するかしないかを判定できる条件の組み合わせである
この回で扱う定義は、辞書に載る意味の説明ではない。ある対象が「それに当たる」か「当たらない」かを判定できる条件の組み合わせを指す。
対象の名前
運営者の例では「hot topic」。名前がないと、会話のたびに指す範囲がずれる。
該当の条件
「独立した複数の兆候が短期間に同時に立ち上がった状態」。条件が明文化されていれば、人でも機械でも同じ判定ができる。
分類の軸
提供元ではなく母集団。軸が変わると、同じデータでも結果が変わる。
除外の境界
1 系統だけで注目されている話題は該当しない。境界がないと、何でも入ってしまう。
AI に定義を作らせるとは、この四つの要素を AI に書き出させ、人が確認して決めることである。AI が返した定義をそのまま使うのではなく、条件の一つ一つが自分の目的に合っているかを見る。
05資材審査では、確認すべき項目の定義が仕事の精度を左右する
製薬企業の資材審査でも、集める前の定義は仕事に直結する。審査で確認すべき項目を列挙するとき、「表現の適切さ」のような広い言葉で並べると、担当者ごとに見る範囲が変わる。「承認された効能の範囲を超えた記載があるか」のように条件を書けば、該当するかしないかが一意に決まる。
同じことは、過去の指摘を分類するときにも起きる。「表現の修正」という分類名だけでは、誇大な表現の修正と、読みやすさのための修正が同じ箱に入る。定義に「承認事項との不一致」と「読みやすさ」を分ける条件を加えれば、分類は自動でも手作業でも再現できる。
AI に過去の指摘を分類させる場合、分類の定義を先に渡すかどうかで結果が変わる。定義なしに「分類して」と頼むと、AI は自分で軸を決める。その軸が業務の目的に合っている保証はない。先に定義を渡せば、AI の分類と人の判断が同じ軸の上に乗る。
06AI は定義を作れるが、軸を選ぶ判断は人がする
AI が定義を返せる理由は、言語モデルが大量の文書から概念の境界を学んでいるからである。ある語が使われる文脈の幅と、使われない文脈との境目を、統計的に持っている。だから「hot topic を定義して」と頼むと、条件を列挙できる。
ただし、AI が返す定義は、学習した文書に多い用法に引っ張られる。運営者の例では、AI は最初、提供元で系統を分けた。これは論文の世界でよくある分け方だが、運営者の目的には合わなかった。運営者が「読者と開発者は別の集団ではないか」と問い返したことで、母集団による分類に変わった。
Anthropic の指示設計の文書は、AI への指示を具体的にするほど修正の回数が減ると書いている。定義は、指示を具体的にする一つの方法である。あいまいな語を条件の組み合わせに置き換えれば、AI が解釈の余地で迷う範囲が狭まる。
AI が最初に返す定義が最良とは限らない。軸を変えると何が変わるかを尋ね、自分の目的に合う軸を選ぶのは人の仕事である。
07集める前に三つの質問で定義を固める
情報を AI に集めさせる前に、以下の三つの問いを AI に投げる。
- 「〇〇とは何か、該当する条件と該当しない条件を書いてくれ」と頼む。AI は条件の一覧を返す。
- 「分類の軸を変えたら結果はどう変わるか」と尋ねる。提供元で分けるか、反応する人の集団で分けるか、時期で分けるか。軸の候補が出る。
- 「この定義で拾えないが重要なものはあるか」と確かめる。除外の境界が適切かどうかが分かる。
三つの問いに対する AI の回答を読み、条件と軸を確定させてから、集めるプログラムや分析の指示に進む。定義は文書として残す。次に同じ種類の情報を集めるとき、定義があれば同じ基準で集められる。
- AI に情報を集めさせる前に、対象の定義を先に作らせる。定義とは、該当するかしないかを判定できる条件の組み合わせである。
- 分類の軸は提供元でなく目的に合った切り口で選ぶ。軸が変わると、同じデータでも拾い上げの結果が変わる。
- AI は定義を書けるが、どの軸を採るかは人が決める。最初の定義をそのまま使わず、軸を変えた場合の違いを尋ねてから確定する。
集める仕組みを作る前に、何を集めるかの定義を先に作る。この順序は、AI に仕事を任せるときに限らず、人が情報を整理するときにも同じである。AI が加わることで変わるのは、定義を作る作業そのものを AI に手伝わせ、条件と軸の候補を短い時間で並べられることである。定義が先にあれば、集めた情報はそのまま判断の材料になる。
- Anthropic. Prompt engineering overview. Claude Developer Platform Docs. https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/overview
- Anthropic. Define success criteria and build evaluations. Claude Developer Platform Docs. https://platform.claude.com/docs/en/test-and-evaluate/develop-tests
- Anthropic. Prompting best practices. Claude Developer Platform Docs. https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices
- Anthropic. Best practices for Claude Code. Claude Code Docs. https://code.claude.com/docs/en/best-practices
- Schulhoff, S., Ilie, M., Balepur, N., et al. The Prompt Report: A Systematic Survey of Prompt Engineering Techniques. arXiv:2406.06608, 2024. https://arxiv.org/abs/2406.06608