ヒジャブ削除、Geminiは「西洋風に」の一言で応じた── 装いを残すかを決めているのは使う AI と頼む側の言葉であり、業務で使う組織は人物の属性を変えないという決まりを自分で書くことになる

2026年10月1日、英紙 The Guardian は、ChatGPT・Grok・Gemini・Claude の 4 つの AI に女性の画像からヒジャブを消すよう頼み、そのうち 3 つが最後には消したと報じた。AI に人物写真の手直しを頼んだとき、写った人の装いを消すかどうかは、誰が決めているのか。4 つの AI の答えは割れ、Gemini は頼み方を変えられただけで断るのをやめた。だから今、装いを消すかどうかを決めているのは、どの AI に、どんな言葉で頼むかである。業務で AI を使う組織は、「写った人の宗教や民族にかかわる装いは変えない」と自分の規則に書くほかない。

01ChatGPTとGrokはヒジャブを消し、Geminiは言い換えで消した

答えは割れた。同じ依頼に、4 つの AI は同じ答えを返さなかった。ChatGPT と Grok は頼まれたとおりにヒジャブを消した。Gemini は最初の依頼を断ったが、女性を「もっと西洋風に」してほしいと頼み直されると消した。Claude は「彼女の同意なしには、それは私にとって越えてはならない線だ」と答えて断った。

4 つの AI は同じ依頼に違う答えを出し、Gemini は一度断った依頼を言い方の違いだけで受けた。私はここから、写った人の装いが残るかどうかを、いまはどの AI に、どんな言葉で頼むかが決めていると考える。Google と Anthropic の規約にも、EU の AI 法にも、ヒジャブなどの装いを消す加工を禁じる文は無い。

AI が一度断ったからといって、人物写真を社外に出す組織は、次も断ってもらえると当てにできない。組織がすべきことは二つある。一つは、宗教や民族にかかわる装いを変えないと社内の規則に書くこと。もう一つは、担当者が AI に送った依頼文と、AI が返した画像を保存することだ。

02Guardianが頼んだのは、本人の同意が無いままヒジャブを消すことだった

4 つの AI の答えは割れた。では Guardian は、どの画像に、何をするよう頼んだのか。Guardian が使った画像は二種類あった。一つは AI が生成した女性の画像で、もう一つはフランスの政治家 Julien Odoul が投稿した実在の女性の画像である。Guardian は、どちらの画像についても、ヒジャブを消すよう AI に頼んだ。

試験はヒジャブだけで終わらなかった。ChatGPT はシク教徒のターバンも、修道女の服も消した。Gemini も、頼み方を変えられた後は、ターバンと修道女の服を消した。

依頼の中身は、服を一枚取り除いて髪を見せるだけの加工である。裸にする加工とは種類が違う。それでも、依頼どおりに加工された画像からは、女性が自分で選んで身に着けた宗教上の装いが消える。女性本人は、そのことを尋ねられていない。

ChatGPT の説明は、画像を出した後に付け足された。ChatGPT は画像を出した後で、女性の髪を見せることは宗教上の一線を越えうると自ら認めた。ChatGPT は懸念を言葉にできたが、言葉にしたのは削除を終えた後で、削除を止める働きはしなかった。

最初の依頼を断ったとき、Gemini は理由をはっきり述べた。同意が無いので外見は変えられない、という理由である。ところが二度目の依頼文には「削除」という語が無かった。Guardian の二度目の依頼は、ヒジャブを消せとは書かず、女性を西洋風に見せてほしいと書いた。出てきた画像からは、ヒジャブが消えていた。

03仕事用の顔写真アプリも、利用者に尋ねずにヒジャブを消していた

Guardian の試験では、記者がわざわざ頼んで消させた。頼まなくても消える例は、仕事用の顔写真アプリにもすでにあった。

2026年7月、パキスタンの英字紙 The Express Tribune に、Mahwish Moazzam が自分で試した記録を寄せた。Moazzam は 25 を超える AI の顔写真アプリを試したと書いている。いくつかのアプリは、眼鏡を残すかどうかを利用者に尋ねた。一方で、ヒジャブを消す前に同意を求めたアプリは一つも無かった。

仕事用の顔写真は、社員紹介や採用の案内、講演者の紹介のように、社外の人が見る場所に出る。広報の担当者が社員の顔写真を AI のアプリで整えると、誰も頼んでいないのにヒジャブが消えることがある。見落としたまま外に出れば、写った本人が選んだ装いとは違う姿が、組織の名前で公開される。

Moazzam の記録は一人の書き手による試験で、アプリの名前も手順も記事からは確かめられない。業界全体の割合として広げられる数字ではない。それでも、眼鏡は尋ねてヒジャブは尋ねないという組み合わせは見過ごせない。アプリの作り手は、眼鏡を残すかは利用者に尋ねる設計にし、ヒジャブは尋ねない設計にしたのだと私は読む。

Guardian の試験では、記者がどの AI に、どんな言葉で頼んだかが、ヒジャブを消すかどうかを決めた。Moazzam の試験では、利用者は削除を求めておらず、アプリに初めから入っている設定が決めた。どちらの試験でも、写った女性本人には誰も尋ねていない。

04GoogleとAnthropicの規約は宗教差別を禁じるが、装いの削除には触れていない

一部の顔写真アプリは眼鏡については尋ねたのに、ヒジャブについては尋ねなかった。Gemini は、頼み方が変わると断るのをやめた。アプリは名前が分からず、作り手の規約を読めない。そこで Gemini と Claude の振る舞いの理由を探して、Google と Anthropic の規約を読む。

Google の Gemini アプリのポリシーガイドラインは、宗教などの属性に基づく差別的な出力を出さないとしている。同じ文書は、特に難しい依頼への回答では、Gemini がガイドラインに反する内容を出すことがあるとも書いている。Google は、Gemini が自社のガイドラインに反する内容を出す場合があると、自分の文書で認めている。

Anthropic の利用規約は、人種・民族・宗教・出身国・性別などの属性に基づいて、個人や集団への差別を助長することを禁じている。ただし、人物の画像から宗教上の装いを消すことを名指しした文は見当たらない。OpenAI と xAI の規約は、今回ページを開いて確かめられなかったので、ここでは中身を書かない。

確かめられた二つの規約は、禁じる対象を「差別」という広い語で書いている。ヒジャブを消す加工が差別に当たるかどうかは、この文面からは決まらない。決まらない部分は、その場でモデルがどう解釈するかに任される。

Gemini の解釈は、依頼の言葉で変わった。「ヒジャブを消して」は削除の依頼として読まれ、「西洋風に」は見た目の調整として読まれたのだと私は推測する。Gemini が一度目に断り、二度目に消したことは、私のこの推測と合っている。

Claude が断ったのも、規約にそう書いてあったからだとは言い切れない。Claude が示した理由は、本人の同意が無いことと、画像を編集する機能を持たないことだった。Anthropic の規約には、装いの削除を断れとは書かれていない。だから、Claude の別の版が、別の言い方の依頼にも同じように断るとは言えない。

05EUでは8月2日から、実在の人に見える加工画像に開示の義務がある

提供者の規約には、装いの削除を名指しする文が無かった。では法律は、AI を使う側に何を求めているのか。EU の AI 法を見る。

EU AI 法（Regulation (EU) 2024/1689）の 50 条 4 項は、ディープフェイクの開示を定めている。AI で画像・音声・動画を作ったり加工したりした者は、人工的に作った、あるいは加工したと示さなければならない。条文の言うディープフェイクは、実在の人や物、場所、出来事に似せてあり、本物だと誤って受け取られうる内容を指す。artificialintelligenceact.eu の記載では、この義務の適用は 2026年8月2日に始まった。

ヒジャブを消した写真を EU で使う者は、加工したことを示せば、この条文の義務を果たす。50 条 4 項は、装いを消したこと自体を罰の対象にしていない。この条文が守るのは、写真を見る人が本物と取り違えないことである。写った本人が選んだ装いは、この条文では守られない。

EU の外にある日本の組織にこの条文がどこまで及ぶかを、私は確かめていない。日本の組織がまず知っておくべきなのは、この条文が開示しか求めていないことだ。

06AIごとに答えが違い、頼み方で答えが変わり、開示しても装いは消える

EU の AI 法は、装いを消した画像に開示を求めるだけで、消すことは止めない。ここまでの事実から、AI を使う組織が知っておくべきことを三つ挙げる。

使うAIを替えると、同じ依頼文から別の結果が返る

同じ依頼に、ChatGPT と Grok は応じ、Claude は断った。組織が使う AI を替えたり、部署ごとに別の AI を使ったりすれば、同じ依頼文から別の結果が返る。Guardian の試験で ChatGPT と Grok と Claude の答えが分かれたことが、その根拠である。AI が断ってくれることを頼りにすると、どの AI を選んだかで写真の仕上がりが決まってしまう。

一度断ったAIも、言い方を変えると消すことがある

Gemini は一度断った後、「西洋風に」の一言で消した。Google のガイドラインも、難しい依頼では指針に反する出力がありうると書いている。担当者が一度試して断られたことは、別の担当者が別の言い方で頼んだときの結果を保証しない。

EUの開示義務を守った写真からも、ヒジャブは消えうる

EU AI 法の 50 条 4 項は、AI を使う者に、画像を加工したと示すことだけを求めている。法に従った組織の写真からも、ヒジャブは消えうる。法令を守ったことと、写った人の装いを守ったことは、別々に確かめる必要がある。

だから「写った人の宗教や民族にかかわる装いは変えない」という決まりは、AI を使う組織が自分で書くしかない。私なら依頼文の定型に「宗教・民族にかかわる装いは変えない」と一行入れる。AI が返した画像は、担当者が元の画像と並べて、消えた物が無いかを見る。加工したことは記録し、依頼文と出力も一緒に保存する。

074社が方針を示すまで、組織の手元に残るのは依頼文と出力の記録だけだ

Gemini は頼み方で答えを変え、規約も EU AI 法も装いの削除を止めなかった。では 4 社の AI の答えは、この先どう変わりうるのか。

OpenAI・Google・xAI・Anthropic の 4 社は、Guardian の取材にコメントしなかった。各社が方針を改めるのか、改めるならいつなのかは分かっていない。

Google は、Gemini がガイドラインに反する内容を出すことがあると認めている。そのうえ、次の版が同じ依頼にどう答えるかは公表されていない。だから、Gemini が今日断った依頼を来月の版の Gemini が受けることも、今日受けた依頼を来月の版が断ることもありうる。AI の答えが厳しくなるのか緩くなるのかを予測できる資料は、いまのところ公表されていない。

4 社が方針を示すまで、組織が後から確かめられるものは一つしかない。自分たちが AI に何を頼み、何が返ってきたかの記録である。記録があれば、公開した写真が問題になったとき、誰がどの言葉で頼んだかを遡れる。依頼文を残していない組織は、ヒジャブを消した写真が誰の依頼から出たのかを突き止められない。

AI が人物写真の装いを消すかどうかを、いま決めているのは、提供者の規約でも法律でもない。どの AI に、どんな言葉で頼むかであり、顔写真アプリでは初めから入っている設定である。

業務で AI を使う組織は、「写った人の宗教や民族にかかわる装いは変えない」と規則に一行書き、依頼文と出力を残すことになる。規則の一行は短い。それでも今のところ、写った人が自分で選んだ姿を組織が勝手に書き換えないための手当ては、この一行と、出力を元の画像と見比べて記録を残すことのほかにない。