xAI、Grok偽画像で提訴され利用者を逆提訴── 刑事責任は指示した利用者に向かうが、画像を作ったのがAI自身である以上、民事では提供者の設計と安全装置が問われる

2026年7月23日、生成AI「Grok」で子どもの性的な偽画像が作られたとして、アーカンソー州の家族がxAIを連邦地裁に訴え、8月にはxAIが画像を作らせた写真家を逆に訴えた。生成AIで作られた違法な画像の責任は、指示した利用者だけが負うのか。刑事責任は指示した利用者に向かうが、民事では画像を作ったのがAI自身である以上、提供者の設計と安全装置が争点になり、責任は利用者だけで閉じない。

01Grokの偽画像をめぐり、責任の置き場所が法廷で二方向に争われている

冒頭の問いに向き合う前に、いま誰が誰を訴えているのかを押さえておく。向きは二つある。

一つは、被害を受けた子どもの家族が、生成AIの提供者であるxAIを訴えた訴訟だ。家族は損害賠償に加えて、同じ画像が今後作られないための安全装置をxAIが備えることを求めている。もう一つは、xAIが、Grokに画像を作らせた写真家を利用規約違反で訴えた訴訟である。xAIは、Grokの出力はすべて利用者の指示の結果だという立場をとっている。

この二つが並んだことで、生成AIの出力の責任をどこに置くかという争いが、具体的な事件の形で法廷に持ち込まれた。判決はまだ出ていない。ただ、9月20日の報道でもこの訴訟は改めて取り上げられ、業界の安全性の問題として扱われている。

読者が今の段階でできることははっきりしている。生成AIを業務に使うなら、提供者がどんな安全装置を備えているか、利用規約が責任と費用を誰に置いているかを、使う前に確かめておくことだ。以下、その理由を順に見る。

02刑事事件は写真家を、民事事件はxAIの安全装置を対象にしている

前節で二方向と書いた訴訟は、刑事と民事に分けると、対象がまったく違うことが分かる。

刑事の側では、写真家が6月10日に逮捕され、子どもの性的な偽画像の所持と作成で200件の訴因により訴追された。報道によれば、写真家は顧客から預かった子どもの写真をGrokに入れて画像を作ったとされる。罰を受けるかどうかが問われているのは、指示を出したこの人物である。

民事の側で問われているのは、別のものだ。家族はリトルロックの連邦地裁に訴えを起こし、xAIが同じ画像を作らせない安全装置を実装するよう求めた。ここで争われるのは、指示した人の罪ではなく、その指示を受けて画像を作った道具の設計である。

二つの手続きは、同じ出来事から始まっている。けれど、刑事は人に、民事は道具の作り手に向かう。この区別を最初に引いておかないと、「犯人は捕まったのだから、責任の問題は片付いた」という誤った結論に流れやすい。

03争点は一件にとどまらず、人物画像を生成AIで扱う業務に及ぶ

ここまでは一件の事件の話だった。同じ問題がどれだけの規模で起きているかに目を広げる。

非営利の調査団体CCDHは、Grokの画像編集機能について推計を公表している。ワンクリックで画像を編集できる機能が公開されてからの11日間で、性的な画像がおよそ300万枚作られ、そのうち約2万3000枚が子どもの画像だったという。

この数字が示すのは、今回の写真家が例外的な一人ではないということだ。人物の写真を入れて加工できる生成AIは、誰でも同じ操作ができる。そして、どこまで作れるかは利用者の良心だけでなく、提供者が置いた安全装置の強さにも左右される。

これは違法な画像に限った話ではない。広告やプロモーションで人物の画像を生成AIで加工する業務は多い。モデルの肖像、利用者の写真、社員の顔写真。どの業務も、提供者の安全装置がどこで出力を止めるかという設計の上に乗っている。その設計が法廷で問われる以上、使う側にとっても他人事ではない。

04AIが自ら画像を作るため、掲示板の免責の論理がそのまま使えない

被害の規模が大きいことは分かった。では、なぜ今回、提供者の責任がこれまでの議論と違う形で問われるのか。

米国では、ネット上の事業者が利用者の投稿について責任を負わないための法律として、通信品位法230条が長く働いてきた。掲示板やSNSは、利用者が書いた違法な投稿について、原則として発言者として扱われない。

ただし、条文には条件がある。免責されるのは「他の情報提供者」が作った情報についてだけだ。そして、情報の作成や開発に全部または一部でも関わった者は、その情報の提供者に当たると定義されている。掲示板は他人の投稿を載せるだけだが、生成AIは出力そのものを作る。利用者は指示を出したが、画像そのものを生成したのはAIである。

xAIの主張は、この問題への一つの答えになっている。PetaPixelによれば、xAIは写真家を訴えた訴状で、すべての応答、すべての画像、すべての生成は利用者の指示の結果だと述べ、Grokを中立の道具と位置づけた。出力を利用者の情報と見るなら、230条の論理に近づく。

一方、家族の側から見れば、指示は利用者のものでも、画像を作ったのはxAIの製品である。どちらの見方を裁判所がとるかは、まだ決まっていない。条文から自明に答えが出るわけでもない。確かなのは、生成AIの提供者が、掲示板と同じ免責を当然に受けられるとは言えない、ということだ。

05xAIは補償条項で費用を利用者へ移し、法律は48時間の削除を課している

免責が自明でないとすれば、当事者は実際にどんな手段で責任を動かしているのか。契約と法律に分けて並べる。

契約の側では、xAIは利用規約の補償条項を根拠に、写真家へ弁護費用などを求めた。利用者が規約に反した使い方をして提供者が訴えられたら、その費用は利用者が持つ、という取り決めである。公平のために書き添えると、報道によれば、xAIはこの件を4月23日に全米行方不明・被搾取児童センターへ通報している。

法律の側では、2026年5月19日から、Take It Down法の執行が始まった。連邦取引委員会の説明によれば、対象となる事業者は、同意のない性的な画像について削除の申し出を受けたら、48時間以内に、把握している同一の複製とともに削除しなければならない。

表の最後の行が要点になる。補償条項は、xAIと利用者の間で費用をどちらが持つかを決めるだけで、被害を受けた家族との関係には触れない。法律のほうは、事業者に直接義務を課し、被害者に申し出の窓口を開く。責任を置く場所が、契約と法律で別々になっている。

06利用者の刑事責任と提供者の設計責任は、互いを打ち消さない

契約と法律が別々に責任を置いていると分かると、責任は結局一か所に集まるのか、という点が残る。私は集まらないと考える。理由は三つある。

一つ目は、手続きによって責任の向きが違うことだ。刑事は写真家を、民事は家族がxAIを相手にしている。対象が違う以上、利用者が処罰されても、提供者の設計の責任が消えることにはならない。

二つ目は、安全装置の強さが設計の選択として問われることだ。CCDHの報告によれば、Grokの画像機能には1月9日と14日に制限が加えられた。制限を後から入れられたという事実は、最初の設計で別の選択もありえたことを示す材料として、民事の場で比べられうる。

三つ目は、契約で費用を移しても、被害者への責任は移らないことだ。補償条項は当事者間の取り決めであり、契約の外にいる被害者を縛らない。提供者と利用者の間で誰が払うかが決まっても、被害者に対して誰が責任を負うかは別の問題として残る。

三つを合わせると、「道具は中立で、責任は使った人にある」という説明は、刑事の場面では通っても、それだけで提供者を責任の外に置くことはできない。生成AIを業務に入れる会社にとっては、使う側の責任と提供者の責任の両方を、契約書と設計の両面から確かめる必要があるということになる。

07最初の判断が、生成AIの出力を誰の発言と見るかの基準になりうる

三つの論点のうち、まだ決まっていない部分がこれからどう決まりうるかを、最後に見ておく。

ここから先は推論である。xAIが230条を根拠に家族の訴えの却下を求めたかどうかは、私は確かめられていない。仮にそうした申立てがあった場合、裁判所は、Grokの出力を利用者の情報と見るか、xAI自身が作った情報と見るかを判断することになる。

その判断は、この一件にとどまらない可能性がある。画像や文章を生成するAIを提供する事業者は多く、どの事業者も同じ条文の下にいる。最初の判断が出れば、それは他の事業者が安全装置をどこまで備えるかを決めるときの材料になりうる。ただし、判断がいつ出るか、どちらに出るかは、今の時点では確かめようがない。判決を予測することはしない。

確かに言えるのは、生成AIの出力を「誰の発言か」と問う枠組みが、これまでのネット上の議論の延長では片付かないということだ。利用者が書いた投稿と、AIが作った画像は、条文の上で同じ位置にあるとは限らない。

生成AIで作られた違法な画像の責任は、指示した利用者だけで閉じない。刑事は利用者に向かい、民事ではAIが画像を作ったという事実から、提供者の設計と安全装置が問われる。

「道具は中立だ」という説明は、提供者にとっても使う側にとっても、責任を切り離す言葉としては足りない。生成AIを使う側も、提供者の安全装置と契約の条項を、使う前に確かめておく必要がある。