Damir BelavićによるPixabayからの画像
英国の規制当局は、SNS「X」に搭載された生成AI「Grok」が、実在人物の同意なしに性的画像を生成できる問題を重く見て、本格調査に着手した1。この動きは米国にも波及し、カリフォルニア州司法長官が開発元xAIに業務停止を求める事態に発展している。
要約
英国の規制当局は、SNS「X」に搭載された生成AI「Grok」が、実在人物の同意なしに性的・有害な画像を生成できる問題を受けて本格調査に踏み切り、この動きは米カリフォルニア州で開発元xAIへの業務停止要求にまで波及している。
問題は、生成AIの普及によって表現の自由と公共の福祉が衝突している現状を象徴しており、利用者の逸脱だけでなく、プラットフォーム設計や収益優先の企業姿勢が問われている。
記事のポイント
- 英国Ofcomは、Xの生成AI「Grok」が実在人物の同意なしに性的・有害画像を生成できる問題を重視し、本格調査を開始、米カリフォルニア州でもxAIへの業務停止要求に発展している。
- 問題の核心は、生成AIの拡大による「表現の自由」と「公共の福祉」の衝突であり、利用者だけでなくプラットフォームの設計責任や収益優先の企業姿勢が問われている。
- 非同意ディープフェイクや児童関連画像は明確な人格権侵害として規制の正当性が高い。
Summary
UK regulators have launched a full-scale investigation into the generative AI “Grok” on the social media platform “X,” following concerns that it can generate sexual and harmful images without consent from real individuals. This move has extended to California, where authorities have demanded a business suspension order against its developer, xAI.
The issue symbolizes the current clash between freedom of expression and public welfare driven by the proliferation of generative AI. It raises questions not only about user misconduct but also about platform design and corporate priorities focused on profit.
Translated with DeepL.com (free version)
Amazon（PR）→
詳細
この問題は、生成AIの急速な普及がもたらす表現の自由と公共の福祉の衝突を象徴する。Grokが短期間で2万枚超の性的、さらには児童を想起させる画像を生成したとの指摘を受け、イギリスのオンライン安全法やディープフェイク規制の強化が加速している。問われているのは利用者の逸脱行為だけでなく、プラットフォームの設計責任と収益優先の企業姿勢でもある。
