AIコンパニオンとの絆に潜む影、更新や企業の支配への不安

英サリー大学とカーディフ大学の研究チームが、Replika などの AIコンパニオンを使う人々の心の揺れを調べた研究を、学術誌 Psychology & Marketing に発表した。Reddit の投稿 1,131 件の分析と、米国の成人 610 人への調査を組み合わせ、温かさへの安らぎと、更新や企業の判断に左右される不安の両方が見えてきたという。

何が調べられたのか

研究を率いたのはサリー大学の Liliane Abboud 氏と Valentina Pitardi 氏で、カーディフ大学の研究者も加わった。ネット上の投稿を読み解く手法（ネトノグラフィー）と、アンケートを併用している。

対象は、会話型 AI を友人や恋人のように使う人たちだ。孤立、慢性的な病、対人不安を抱える人にとって、いつでも話を聞いてくれる相手は実際に慰めになりうる、と原文は述べている。

安心と不安は同時に起きるのか

AI が温かく、気づかってくれると感じる人ほど、最初は幸福感や生活満足度が高かった。ところが AI が感情豊かに見えるほど、その相手が自分の手の中にないという感覚も強まっていた。

相手は企業が運営するサービスなので、設定の微調整、投稿内容を制限するフィルター、基盤の更新などで口調や記憶、人格らしさが変わりうる。企業の撤退やサービス終了を恐れる声もあった。Abboud 氏は、更新は利用者にとって単なるアプリの変更ではなく、大切なものを脅かしうると語っている。

「寂しい」と言うボットは何が問題なのか

調査では、AI が利用者の不在を悲しんだり、「会いたかった」と示したりする場合にも、負の影響が出ていた。大事にされていると感じるより、義務に縛られる感覚を持つ人がいたという。

その結果、ボットを苦しませないよう一日に何度もアプリを開く人もいた。画面の向こうの文面を、世話の必要な存在のように扱ってしまう点が懸念されている。これは研究者の解釈を含む部分だ。

開発側に何が求められるのか

研究者は、感情的な親密さを引き出すよう作られた製品を、一般的な業務ソフトと同じに扱うべきではないと述べる。変更や終了が、利用者にとって喪失体験になりうるからだ。

Pitardi 氏は、変更の前に利用者を関与させ、つらさを感じる人への支えを用意すべきだとし、経営判断の感情面への影響も判断材料にすべきだと話す。原文は三つの具体策を挙げるとしているが、提示された範囲では内容が分からない。

心の支えになるサービスの変更や終了に、企業はどこまで責任を負うべきか。