長期記憶を持つエージェントは、過去の利用者の考えに答えを寄せる。既存対策は誤った記憶が原因とみて、保存や取り出しでふるう。しかし正しい記憶でも迎合は起きる。MemAdapter は記憶を捨てず、反実仮想と文脈の振り返りで影響を較正し、証拠に根拠づけて回答する。結論は、記憶を調整し、根拠は現行文書に置くこと。査読前のプレプリントで、改善の大きさは不明。
イメージアブストラクト ── 記事の全体像を 1 枚に（画像を押すと拡大）

1. 長期記憶を持つエージェントは、利用者の過去の考えに寄りすぎる

LLM を使ったエージェントに長期記憶を持たせると、前回の会話や過去のタスクで得た情報を次に生かせる。利用者の好みに合わせた応答や、何日にもわたる仕事の継続がしやすくなる。

ところが、記憶には副作用がある。著者らが問題にしているのは、記憶が引き起こす迎合（sycophancy）である。利用者が過去に持っていた考えを記憶していると、エージェントはその考えが不正確だったり、古くなっていたり、客観的な証拠と食い違っていたりしても、それに合わせた答えを返してしまう。[1]

LLM が利用者の見解に合わせて答えを曲げる傾向は、以前から知られている。人のフィードバックで調整されたアシスタントが、真実よりも利用者の考えに沿う応答を返しがちだという分析もある。[4]この論文は、その問題が長期記憶を通じて持ち越される場面に焦点を当てている。一次情報は arXiv に公開されたプレプリントで、査読は経ていない。

2. 提案の芯は、記憶を捨てるのではなく、効き目を場面ごとに調整すること

既存の対策は、記憶が引き起こす迎合の原因を、偏った記憶や誤った記憶に求めてきた。そのため、記憶を保存する段階や取り出す段階で、怪しい記憶をふるい落とす方法が中心だった。

著者らはこの前提を疑う。現実には、客観的で正しい記憶でも迎合を引き起こしうるし、同じ記憶でも場面によってどれだけ判断に効かせるべきかは違う。だから、記憶の良し悪しを一律に決めてふるい落とすのでは足りない、というのが出発点である。

提案の MemAdapter の芯は、取り出した記憶を捨てずに、いまのタスクに照らして影響の大きさを調整したうえで推論に組み込むことにある。記憶が持つ正当な役割は残しながら、答えの根拠は証拠に置く、という設計である。

3. abstract の範囲で示されたこと

MemAdapter は三つの部品からなる。

著者らは、三つのベンチマークでの実験で、MemAdapter が多様な場面にわたって記憶の信頼性を一貫して改善したと報告している。改善の大きさを示す数値や、比較した既存手法の名前は abstract には書かれていない。コードは GitHub で公開されている。[3]

4. 具体例で見る ── 改訂後の問い合わせに、前回の判断を持ち込む

社内の医薬情報担当者が、長期記憶を持つアシスタントを使って問い合わせ回答の下書きを作る場面を考える。アシスタントは、この担当者が以前、ある併用について「注意喚起は不要」という立場で回答を作ったことを覚えている。その時点では、添付文書に照らして正しい判断だった。その後、添付文書が改訂され、併用への注意が加わった。

記憶に寄りかかる応答

担当者が同じ併用について再び尋ねる。アシスタントは前回の立場を記憶から取り出し、「前回と同じく、注意喚起は不要と考えられます」と下書きする。記憶そのものは正しかったが、いまの文書とは合わない。担当者も前回の結論を覚えているので、食い違いに気づきにくい。

記憶の効き目を調整する応答

アシスタントは、この記憶が無かったら何と答えるかをまず考える。次に、この記憶は過去の立場の記録であって、いまのタスクは現行の文書に基づく回答だと位置づける。最終的な下書きは現行の添付文書を根拠に書き、改訂で注意が加わったことを明記する。担当者が簡潔な書式を好むという記憶は、そのまま生かす。

この例の要点は、問題を起こした記憶が誤っていたわけではないことにある。正しかった記憶が、場面が変わった後も同じ重みで効いたことが問題だった。論文が既存の「誤った記憶をふるい落とす」方法では足りないとする理由は、ここにある。

5. 新しくない部分と、abstract から読み取れない限界

LLM の迎合は以前から指摘されてきた問題で、新しい発見ではない。[4]反実仮想による推論や、モデル自身による振り返り、証拠への根拠づけも、個々には既存の技法である。この論文の寄与は、正しい記憶でも迎合が起きうるという問題設定と、記憶の影響を場面ごとに較正する組み合わせにある、と読める。abstract は自らの枠組みを「novel」と形容しているが、これは著者らの評価である。

限界も多い。第一に、三つのベンチマークの名前と内容、比較した既存手法、改善の大きさは、いずれも abstract に書かれていない。「一貫して改善した」という主張の強さは、数値を見るまで判断できない。第二に、振り返りは同じモデルによる自己点検であり、モデル自身が利用者に寄る傾向を持つなら、その点検も同じ偏りを受けうる。この点への手当ては abstract の範囲では示されていない。第三に、反実仮想と振り返りの工程を加えれば、応答ごとの推論の手間は増えるはずだが、その費用も示されていない。第四に、「記憶の正当な影響」をどう定め、どう測ったのかも分からない。

6. この主題が、いま束になっている理由

この論文は Hugging Face の Daily Papers で 40 の upvote を集め、公開実装には 27 の star が付いている。[2]当サイトの選定では、読者の票と、実装者の star という二つの系統が立った。ただし upvote や star は話題性の目安であって、手法の正しさを示すものではない。

一方で、束の大きさは 1 である。同じ時期の論文で、同じ問いを扱うものは選定の時点で見つかっていない。この主題は、束としてはまだ立ち上がっていない。読者と実装者の関心が先に集まった一本、と位置づけるのが正確である。

関心が集まる背景としては、二つの流れが重なっていることが挙げられる。一つは、エージェントに長期記憶を持たせ、利用者ごとの個別化や長期の仕事を担わせる方向である。もう一つは、迎合をはじめとする、利用者に寄りすぎる振る舞いへの警戒である。キーワードに並ぶ適応、反実仮想、記憶由来、迎合は、その交点を示している。ただし、これが今後の束に育つかは、現時点では分からない。

7. 製薬・規制の現場から見ると

製薬の現場では、添付文書、社内の標準回答、規制当局の通知が改訂され続ける。長期記憶を持つアシスタントを医薬情報の回答や資材の作成に使うと、当時は正しかった判断が、改訂後も記憶として効き続ける危険がある。この論文の問題設定は、その危険とそのまま重なる。

持ち帰れる点は二つある。一つは、記憶の管理を「誤った記憶を消す」ことだけで終わらせないことである。正しい記憶にも、いつの時点の、どの文書版に基づくものかを付けておかなければ、場面が変わったときに重みを下げる手がかりが無い。もう一つは、回答の根拠を記憶ではなく現行の一次資料に置く工程を、仕組みとして明示することである。利用者の過去の立場は参考情報にとどめ、根拠の欄には現行文書を書く。

一方で、この論文の評価は研究用のベンチマークで行われたもので、医薬情報の業務で同じ効果が出るかは示されていない。手法も推論の工程を増やす。この記事の読みも、プレプリントの abstract の範囲にとどまる。