モデル・蒼咲はるか氏がカメラマン・優輝氏による生成AIのディープフェイク被害たった1本の動画から全画像生成か

優輝氏がAI生成してアップしたとされる蒼咲はるか氏のフェイク画像 — 優輝氏がAI生成してアップしたとみられる蒼咲氏のフェイク画像（モザイク加工は記事投稿者による）

自分ではない自分が、見知らぬ誰かと親密に時間を過ごしている。そんな悪夢のような画像が本人のあずかり知らぬところで作られ、あたかも事実であるかのように拡散される。生成AIの急速な進化が生んだ新たな被害が、いまSNS上で告発され、大きな注目を集めている。

被害を訴えているのは、企業広告などで活動するモデルの蒼咲はるか氏だ。かつて撮影で面識のあったカメラマンから、生成AIで捏造された画像による深刻な被害を受けたという。二人が交際しているかのように、さらには性的な関係にあるかのように装った画像が投稿されていた。

蒼咲氏の友人・羊肉るとん氏が告発生成AIの「交際・ホテル同伴」フェイク画像がInstagramで拡散

騒動が注目を集めるきっかけとなったのは、蒼咲氏本人ではなく、その友人でモデルの羊肉るとん氏の投稿だった。

12日、羊肉氏はX上で、企業広告のモデルなどを務める蒼咲氏が、1万人近いフォロワーを持つカメラマンの優輝氏から悪質な被害を受けていると告発した。投稿によると、優輝氏は蒼咲氏がSNSに載せていた写真を素材に生成AIで加工した画像を作成し、まるで二人でディズニーランドやホテルへ一緒に出かけたかのような内容をInstagramに投稿していたという。

告発の投稿には、遊園地や夜景を背景にした画像に加え、ホテルの一室とおぼしき場所で撮られたかのような親密な様子の画像も含まれていた。羊肉氏は「悪質な行為なので、通報をお願いします」と呼びかけ、この投稿は76万回を超えて表示されるなど、大きく拡散した。羊肉氏は、自らは失うものの少ない立場だとしたうえで、まじめに生きてきた親友がこれ以上傷つく姿を見たくないと、声を上げた動機を語っている。

「5〜6年前に数回撮影しただけ」蒼咲はるか氏本人が反論ディズニー写真も捏造と指摘

告発から間もなく、蒼咲氏本人もXで直接、状況を説明した。

蒼咲氏によると、優輝氏との関係は、5〜6年前に街やスタジオで数回の撮影を依頼された程度のものだった。撮影中に不信感を抱く出来事があり、それをきっかけに以降は一切の撮影を断っていたという。ディズニーランドやホテルへ二人で出かけた事実は、過去にも現在にもないと強く否定している。下着姿や裸を見せたことも、撮らせたこともないという。

捏造の証左も具体的に示されている。羊肉氏によると、投稿されたディズニーランドの画像には昼間の情景を写したものが含まれていたが、実際に蒼咲氏が入園したのは夕方以降であり、日中の写真など存在するはずがないという。時系列のつじつまが合わない点からも、これらが生成AIによるものだと裏づけられる形だ。

とりわけ蒼咲氏が訴えたのは、フェイク画像が「事実として受け取られてしまう」ことの恐ろしさだった。事態が明らかになる前に投稿を見た知人の中には、本当に二人が交際していると思い込み、性的な画像まで本物だと受け取っていた人が複数いたという。本人は「今もとても怖い」と、生々しい心情を吐露している。

動画1本から全画像を量産か AI判定ツールは「99.8%が生成画像」

一連の画像が本物と見分けにくいほど精巧だった点も、被害を深刻にした。

羊肉氏によると、これら一連のフェイク画像は、蒼咲氏が自身のInstagramに投稿していたたった1本の動画を素材に生成されたものだという。わずかな元素材からでも、遊園地やホテルなど多様な場面のなりすまし画像を量産できてしまう。生成AIの敷居の低さが、被害の裾野を一気に広げている。

一方で、検証の手立ても残されている。あるユーザーが、告発の投稿に添えられていた画像をAIの生成判定ツールにかけたところ、生成AIによる画像である可能性が99.8%と表示されたと報告している。画像には生成AI特有の痕跡が残っており、フェイクだと判断できたという。裏を返せば、そうした検証を経ない多くの人の目には、精巧なフェイクが本物として映ってしまう。技術の進化が、被害の立証と拡散防止の双方を難しくしている。

カメラマン優輝氏側の対応に募る不信感 DMを無視しアカウントを削除・復活

告発の後、優輝氏側がとった対応も、不信感を強める一因となった。

羊肉氏によると、問題のInstagramアカウント（アカウント名はs.t.y.77）は、蒼咲氏本人や複数の面識ある知人からDMで連絡を受けていたにもかかわらず、これを無視したまま、削除と復活を繰り返していたという。事態が拡散した後も、問題の画像を含むストーリーを削除するまでにかなりの時間を要していたとされる。誠実な説明や謝罪が示されないまま対応が二転三転した経緯が、被害者側の不信をいっそう深める結果となった。なお、13日午前11時現在、当該アカウントは削除されており、閲覧することはできない状態になっている。

相次ぐ同様の被害なりすまし・性的ディープフェイクと追いつかない法整備

今回の一件は、決して特殊な事例ではない。羊肉氏の投稿には、自分もAIで無断の性的な画像を作られ、風俗店の宣材のように使われたことがあると訴える別の女性の声も寄せられた。誰もが手軽に精巧な画像を作れるようになったいま、なりすましや性的な捏造画像による被害は静かに広がりつつある。

他人の写真を無断で素材にし、実在しない関係を捏造して性的な文脈に置く行為は、対象となった人物の名誉や尊厳を著しく傷つける。しかも被害者は、身に覚えのない事柄について、自ら「これは嘘だ」と証明しなければならない立場に追い込まれる。否定しなければ事実として広まってしまうという、理不尽な負担を強いられるのである。

蒼咲氏は投稿の中で、他人の写真や動画を許可なくAIで改変しないこと、生成した画像を実際の写真であるかのように投稿しないことを訴え、道徳や倫理に反するAI利用に適切な法が整備されることを願うと結んでいる。現状、こうした被害への対応は名誉毀損や肖像権侵害といった既存の枠組みに頼らざるを得ず、実態に法整備が追いついているとは言い難い。技術そのものに罪はない。問われているのは、それを扱う人間の倫理と、被害者を守るための社会の仕組みである。一つの告発が投げかけた問いは、決して他人事ではない。