AIを使った悪質な画像生成が問題に。自分の写真が無断で加工・拡散されたらどうすればいいの？

いまSNS上で、生成AI「Grok」を使って写真を性的に加工することが大きな問題になっています。

AIによる写真加工は、モノクロの写真をカラーにしたり、被写体の着衣を変えたり、写真から動画を作ったりすることが短時間で簡単にできるものです。このようなツールは、例えば亡くなった親族の生前の写真を動画にして故人を偲んだり、昔の街並みの中を人や乗り物が動いている様子を再現して懐かしんだりする場合を考えると、とても便利で価値のあるものに思えます。

しかし昨今問題となっているのは、こうした用途ではなく、AIを用いて他人の写真を本人の意思に反して性的・侮辱的に加工するという明確な「悪用」です。

被写体の肌を露出する姿に置き換えたり、本人が嫌っている行為をさせたり、泥酔しているように見せたりといった加工を行い、人格や社会的評価を歪める表現を作り出せてしまう点が深刻な問題として指摘されています。

では、このようなAIによる写真加工の悪用について、法的にはどのような問題があるのでしょうか。

使用された写真の著作権・著作者人格権

まず、写真を加工する以上、元になった写真の著作権と著作者人格権の侵害が問題となります。

写真を加工した場合も、写真を元に動画を作成した場合も、背景などは元の写真をそのまま使っている以上、写真の一部を利用しつつ改変を行ったことになります。そのため、著作権（複製権や翻案権）の侵害にあたります。また、これをSNS等に投稿すれば、公衆送信権の侵害にもなります。

さらに、写真をこのように加工すること自体が、同一性保持権という著作者人格権の侵害となる場合があります。

もちろん、自分が撮影した写真を加工する場合には、これらの権利侵害には当たりません。しかし、ネット上にある他人が撮影した写真などを無断で使用する際には、十分な注意が必要です。

なお、写真ではなく、アニメや漫画のキャラクターを描いたイラストを加工する場合であっても、同様に著作権や著作者人格権の侵害が問題となります。

被写体となった人物の権利

被写体となった人物については、肖像権の侵害が考えられます。

本人の承諾を得て撮影され、ネット上に投稿された写真については、それがそのまま拡散されることについても、一定程度は本人が承諾していると考えられます。したがって、その写真を無加工のまま使用する限りは、肖像権の侵害にはなりにくいでしょう。

しかし、本人の知らないところで加工が加えられた場合、本人は肖像写真を加工することも、加工された肖像を利用することも承諾していません。そのため、写真を加工したうえで拡散する行為は、肖像権侵害となる可能性が高いといえます。

また、被写体がタレントなどの著名人の場合には、肖像等を商業目的で利用することについて、パブリシティ権という特殊な権利が判例上認められています。こうした人物の写真を加工した画像や動画を有償で販売したり、アクセス数等によって利益を得る目的でプラットフォームに投稿したりすれば、商業目的での利用としてパブリシティ権の侵害にあたる可能性があります。

ただし、肖像権やパブリシティ権は、原則として生存している人物について認められる権利であり、一般には本人が死亡すると消滅すると考えられています。そのため、故人の写真を加工して拡散した場合、これらの権利侵害としては扱われにくいのが現状です。

もっとも、これは「問題がない」という評価を意味するものではありません。遺族の心情や社会的妥当性まで否定されるわけではなく、この点には現行法が十分に拾いきれていない領域があるといえるでしょう。

また、加工の態様によっては名誉棄損にあたる可能性もあります。報道などでも指摘されているとおり、AIによる画像生成では、本人が実際には着用していない水着姿や下着姿、本人の意に反する行為をしているかのような姿を生成できてしまう場合があります。こうした加工によって、あたかもそれが本人の実際の姿であるかのような印象を与えれば、名誉棄損が成立する可能性があります。

名誉棄損については、肖像権やパブリシティ権とは異なり、亡くなった方であっても、虚偽の事実を摘示した場合には成立します。写真を加工することは、虚偽の事実を作り出す行為にあたるため、名誉棄損が成立する余地があるといえるでしょう。

「個人的に楽しんでいるだけ」の場合

ここで扱うのは、あくまで被写体の意思に反した写真加工という「悪用」であることを前提としたうえで、現行法がどこまで介入できるのか、という問題です

自分の写真が、知らないところで性的に加工され、誰かがそれを私的に楽しんでいる––––そう想像しただけで、強い嫌悪感や恐怖を覚える人は少なくないでしょう。

しかし、このような精神的な被害と、現行法が違法と評価できる範囲との間には、大きな乖離があります。

AIによる写真の加工については、加工後の写真が投稿・拡散された場合を前提に議論されることが一般的です。では、加工した写真を外部に公開・拡散せず、個人的に楽しんでいる場合はどうなのでしょうか。

著作権については、個人的に楽しむために複製や翻案を行っても、原則として著作権侵害にはならないとされています。同一性保持権については成立し得るものの、私的利用の範囲では権利行使や救済が及びにくいのが実情です。

肖像権やパブリシティ権についても、拡散されない限りは侵害と評価されにくく、名誉棄損についても、一般には外部への伝播がなければ成立しないと考えられています。

その結果として、AIを使って写真を性的に加工する行為が明確に「悪用」であったとしても、現行法の枠組み上は、それを外部に公開・拡散せず、私的領域にとどめている限り、直ちに違法と評価されにくい場面が生じてしまいます。

ただしこれは、その行為が社会的・倫理的に許容されることや、被写体に精神的な被害が生じないことを意味するものでは決してありません。

AIに対する規制のありかた

このように、明確に悪用であるにもかかわらず、法的には制限しきれない領域が生じていることから、AIを提供する事業者に対する規制のあり方が問われています。

もっとも、個人的に楽しむための利用まで含めて直ちに違法と整理されない以上、AIを提供する事業者を直接的に規制することには限界があります。

問題なのは、単に利用者のモラルに帰着させられるものではなく、非同意の写真加工という悪用が「できてしまう」設計を放置しているプラットフォームの構造そのものにもあります。

昨年成立した人工知能関連技術の研究開発及び活用の推進に関する法律（AI推進法）も、AIの活用を促進することを主眼としており、AIを提供する事業者に対する具体的な義務や、違反に対する直接的なペナルティは設けていません。

しかし、自分の写真が知らないところで、例えば性的に加工され、それを誰かが私的に楽しんでいると想像したらどうでしょうか。強い不快感や恐怖を覚えるのは自然なことですし、いつそれが拡散されるかわからないという不安も拭えません。

また、故人の写真についても、法的な権利が消滅しているからといって、不適切な加工を行ってよいと考えることには、大きな違和感があります。

そもそも、私的に楽しむ行為を直ちに違法としないのは、「私的領域での個人の表現行為を過度に阻害すべきではない」という考え方があるからです。しかし、AIを用いた非同意の写真加工という悪用が、どこまで「尊重されるべき表現行為」といえるのかについては、十分に検討される必要があるでしょう。

同じ写真を同じAIに入力すれば、誰が使っても似たような結果が生成されます。そのような利用行為が、加工された写真にまつわる権利者や被写体が受ける不快感や不利益よりも優先されるべきなのか、慎重に考えるべきです。

個人的には、幼少期からこのようなAIに触れる環境が当たり前になったとき、人が頭の中で想像し、補完し、創造してきたプロセスにどのような影響が生じるのかについても、今後議論されるべきではないかと感じています。

このように考えると、AIを提供する事業者には、元になった写真の権利者や被写体にとって不本意と思われる加工–––とりわけ非同意で露出や性的表現を増やすような悪用–––を技術的に抑制する仕組みを設けることが求められるのではないでしょうか。

EUなどに比べると、AI推進法を含め、日本におけるAI規制は緩いと指摘されています。Grokの問題を契機に、悪用を前提としたうえで、法律とAIプラットフォームの責任をどう設計し直すのかについて、より実効性のある議論が深まることが期待されます。

プロフィール

文：桑野 雄一郎