メタは、同意なしに性的な画像を生成するために人工知能を使用する物議を醸すアプリCrushAIの開発を担当する香港に本拠を置くJoy Timeline HK Ltd.に対して訴訟を提起しました。

香港で提起された訴訟は、同社がFacebookやInstagramでの広告を通じてアプリを宣伝することでMetaの広告ポリシーを侵害したと非難しています。これは、繰り返し削除やコンプライアンス措置が講じられたにもかかわらずです。

Metaによると、Joy Timelineは広告レビューシステムを回避するために複数回の試みを行い、その結果、この企業がプラットフォームで広告を出すことを永久に禁じる法的措置が取られました。「この訴訟は、この悪用をどれほど真剣に考えているか、そして私たちのコミュニティを守ることへのコミットメントを反映しています」とMetaは声明で述べ、プラットフォームの不正使用に対する法的解決策を引き続き模索すると約束しました。

CrushAIや「裸」に似たアプリケーションは、(人々をデジタル的に脱がせるもので、しばしば女性やセレブリティをターゲットにしています)が、オンラインハラスメント、恐喝、児童搾取を助長するため、広範な批判の対象となっています。CBSニュースの最近の調査では、メタのプラットフォーム上に数百件のこれらの広告が見つかり、その中には削除作業の後でも目に見えるものがあった。

これに対して、Metaは新しい技術を導入して有害な広告を検出しブロックするための管理ツールを強化し、露骨なヌードを示さない広告も含め、他のテクノロジー企業と脅威に関する情報を共有しています。

同社はまた、これらの広告を運営している四つの調整されたネットワークを解体したと報告しており、新たに浮上する回避戦術に対抗するために内部の専門家や外部の協力者と引き続き協力しています。

増大する立法者や研究者からの圧力を受けて、Metaは警戒を維持し、ユーザーの安全を守るために搾取的なAIアプリケーションの蔓延を防ぐために必要なすべての措置を講じると主張しています。