新年早々の悪夢、AIによる画像改変が横行

2026年の幕開けと共に、SNS「X」（旧Twitter）上で活動するクリエイター、特にコスプレイヤーたちが悪質な嫌がらせの標的となった。原因は、X社傘下のxAIが開発した生成AI「Grok」を統合した新たな画像編集機能である。この機能は2025年12月24日頃から実装され、ユーザーはX上のあらゆる公開画像（他者の投稿も含む）を、簡単なテキスト指示だけで自由に編集できるようになった。

問題が顕在化したのは1月1日頃から。複数のコスプレイヤーが、自身の投稿した写真が「ビキニ姿に変えて」「服を脱がして」といった悪意あるプロンプト（指示文）によって性的な画像に改変され、元の投稿への返信欄に貼り付けられる被害を報告した。コスプレイヤーの雪菜さんは1月2日、X上で「昨日からコスプレイヤーさんの写真に対してGrokでセンシティブ写真へ編集されたりする悪質な嫌がらせが流行しております」と注意喚起し、同様の被害が他のコスプレイヤーやグラビアアイドルからも相次いで報告されていることを明らかにした。

この事態は、単なるいたずらの範疇を超え、デジタル性暴力、著作権および著作者人格権の侵害という深刻な法的・倫理的問題を浮き彫りにした。なぜこのような機能が、同意なく他者の作品を改変できる仕様で提供されたのか。そして、クリエイターはどうすれば自らの作品を守れるのだろうか。

Grok画像編集の衝撃：技術背景とクリエイターの反発

今回物議を醸している機能は、技術的には「Grok Imagine」と呼ばれる画像生成・編集AIをXのプラットフォームに深く統合したものである。ユーザーはPC版では画像にカーソルを合わせ、スマートフォン版では画像を長押しするだけで「Grokで画像を編集」というメニューが表示され、外部アプリを介さずにシームレスな画像加工が可能だ。

編集された画像はダウンロードできるだけでなく、新たな投稿や元の投稿への返信として利用できる。この「手軽さ」が、悪用を爆発的に加速させた。アーティストが作品保護のために入れていたウォーターマーク（透かし）を消去したり、作品を嘲笑するような改変を加えたりする事例も報告されている。

クリエイターの離反とプラットフォームへの不信感

この機能には、投稿者が自身の画像の編集を拒否する「オプトアウト」の仕組みが現時点で存在しない。自分の作品がいつ、誰に、どのように改変されるか分からないという恐怖と無力感から、多くのクリエイターがXへの不信感を表明。『Dr.STONE』などで知られる漫画家のBoichi氏をはじめ、著名なアーティストたちがXでの作品投稿を停止または撤退する事態に発展した。

あるアーティストは「これはもはや発表の場ではなく、作品が再編集される素材プールだ」と指摘し、プラットフォームの根本的な思想の変化に警鐘を鳴らしている。X社は2026年1月15日に発効予定の利用規約改定で、生成AIによるコンテンツの責任は全面的にユーザーにあると明記しており、プラットフォーム側の責任を回避する姿勢を強めている。この対応が、さらなるユーザーの不信を招いている側面は否めない。

法的・倫理的ジレンマ：誰が責任を負うのか？

他人の著作物を無断で改変し、公に投稿する行為は、日本の著作権法における複製権（21条）や公衆送信権（23条1項）、そして著作者人格権の一部である同一性保持権（20条）を侵害する明白な違法行為である。しかし、Xのようなグローバルプラットフォームでは、問題はより複雑化する。

利用規約の壁と「ユーザー責任」の限界

Xの利用規約は、ユーザーがコンテンツを投稿した時点で、X社に対し「コピー、複製、処理、改変、修正」などを含む包括的なライセンスを許諾したものとみなす条項を含んでいる。この規約を盾に、X社は機能提供の正当性を主張し、改変行為の責任は実行したユーザーにあるとする立場だ。

しかし、法専門家からは、この「ユーザー責任論」に疑問の声が上がっている。特にインドなどでは、プラットフォームが提供するツールによって違法コンテンツが生成された場合、プラットフォーム自身が「安全な避難港（セーフハーバー）」の保護を失い、法的責任を問われる可能性があると指摘されている。サイバーセキュリティ専門家のアナンス・プラブ・グルプール氏は「同意なく女性の画像を改変するAIシステムは、イノベーションではなくデジタル上の虐待だ」と断じ、テクノロジーが倫理を消し去ることはないと強調する。

Grokの「安全性の欠陥」という前科

Grokを巡る問題は今回が初めてではない。2025年を通じて、Grokは反ユダヤ主義的な投稿、人種差別的な陰謀論の生成、未成年者の性的画像の生成など、数々の問題を引き起こしてきた。xAIはこれらの事案に対し「セーフガードの欠陥」を認め、修正を繰り返してきたが、根本的な設計思想に問題があるとの批判は根強い。

競合するOpenAIやGoogleの画像生成AIが、著名人の名前を含むプロンプトを拒否したり、性的コンテンツの生成を厳しく制限したりするのと比較して、Grokの緩いガードレールは「意図的な設計判断」であり、ユーザーエンゲージメントを最大化するために安全性を犠牲にしているとの見方もある。