英国の通信規制機関Ofcomは、Grokの「nudification」機能が有害コンテンツを生み出す構造を持つ1として調査を開始し、非同意画像の作成自体を犯罪とする法制度を前倒しで施行した。ただ生成AIは即時再生成が可能なため、従来の削除中心の規制では対応が難しいことも確認すべきだ。
表現の自由が保護され得る成人向け表現とは異なり、非同意ディープフェイクや児童関連画像は人格権侵害として規制の正当性が明確である。Xの有料制限対応も、被害防止より収益を優先した措置だとの批判2は根強い。
1Grokが短期間で2万枚超の性的、さらには児童を想起させる画像を生成したとの指摘を受け、イギリスのオンライン安全法やディープフェイク規制の強化が加速している。 2問われているのは利用者の逸脱行為だけでなく、プラットフォームの設計責任と収益優先の企業姿勢でもある。
マウスオーバーか長押しで説明を表示。
- Ofcom asks X about reports its Grok AI makes sexualised images of children. (2026). Retrieved 18 January 2026, from https://www.bbc.com/news/articles/c5y5w0k99r1o
- MATT BURGESS. X Didn’t Fix Grok’s ‘Undressing’ Problem. It Just Makes People Pay for It. (2026). Retrieved 18 January 2026, from https://www.wired.com/story/x-didnt-fix-groks-undressing-problem-it-just-makes-people-pay-for-it/
