【URL】AI生成の児童画像サイトどこ?運営会社は?

こんにちは。坊主です。

2023年11月12日、生成AIで制作された児童の性的画像が”あるサイト”に大量に投稿されている問題が報じられました。

そのサイトは大阪府 吹田市の企業が運営しているもので、問題の児童画像は月3,000点のペースで投稿されていたようです。

報道によると、生成AIで制作した児童の画像は現行法では「児童ポルノ」には該当しないとのこと。

一体、児童の性的画像が大量に投稿されたサイトとはどこなのでしょうか？

AI生成の児童性的画像｜運営会社や投稿サイトURLはどこ？Fantastic？

児童の性的画像が投稿されたサイトについて調べたところ、以下のツイートが確認されました。

これfantasficだな

誌面でも大々的に取り上げられていた

この社長のコメントはダメだねぇ

※「(h)ttps://twitter.com/PeeFaceApp/status/1723497638618964108」より引用

上記の通り、問題の画像は「Fantasfic」という投稿サイトに投稿されているようです。

確かに、Fantasficの公式Twitterでは児童画像に対する規制を強化する旨のツイートがなされていました。

＜ガイドライン違反のコンテンツへの対応について＞

いつもFantasficをご利用いただきまして誠にありがとうございます。

児童を対象とした性的表現がされている投稿に対する取り締まりを厳格化すべく、以下の対応を行います。

・ガイドラインに抵触する投稿の対応…

— Fantasfic (@fantasfic_re) November 11, 2023

ただ、Fantasficはクリエイターが自分の作品を自由に投稿できるサイトであり、決していかがわしいサイトではありません。

そのため、Fantasficを運営する「株式会社ミツヤ商会」に非があるわけではなく、クリエイター（投稿者）の中にモラルなき人間がいることになります。

しかし、起業にも社会的責任が求められることから、同社は既に児童の性的画像への対策に乗り出し、問題のアカウントを停止（凍結）するなどの措置を講じています。

事実、Fantasficに投稿された作品一覧を見ると、投稿名に「凍結された」という文言が多数見受けられます。

世間の反応

人間が作成したものだろうがAIが生成したものであろうが、過程はどちらであっても、人から見て、どちらも同じように見えて、区別がつかないようであれば、それは人が作ったものと見做して構わないのではないでしょうか。

作成の過程より、それが児童ポルノにあたるのかどうかで判断すればいいのではと思います。

CGはより実物や本物に近く、AIは実直に最適解を追求する。

両者が組み合わされば本物と見分けがつかないのを生成するのは当たり前。

創造主の人間がそう求め設計したから。
リアルな生成物の違法か芸術かの線引きをするのか。

「AI俳優」「AIイメージキャラ」など労働条件もスキャンダルも加齢問題も高額なギャラも不要なものが出始めて芸術やエンターテイメント界も「人間不要」の時代になるかもしれない。

実在する子供を元にしてその人だと思わせるような画像は取り締まるべき。

ただそれは子供に限らずフェイクニュースみたいなのも、名誉毀損とかじゃなく

作成自体を取り締まるよう法整備した方がいいと思う。

※「Yahoo!ニュース」より引用