Metaは、新たに立ち上げたInstagramのAI画像機能を、一般ユーザーの写真やデジタル的な似姿の扱いについて大きな批判を受けた後に撤回した。企業の新しいMuse Imageプラットフォームの一部として導入されたこのツールは、公開されているInstagramアカウントを参照することで、ユーザーがAIが生成した画像を作成できるようにしていた。同機能を削除する決定はデビューから数日後に下され、AIの革新とユーザーのプライバシーの両立をめぐるテクノロジー企業への圧力が高まっていることを浮き彫りにした。
この機能は、ユーザーが設定を手動で変更しない限り、公開されているInstagramプロフィールをAI生成画像で自動的に参照できるようにしていた。批評家は、デフォルトの方式では十分な意味のある同意が得られておらず、写真が悪用される可能性があると主張した。
デジタル同意をめぐる懸念が高まる
プライバシー擁護派、クリエイター、エンターテインメント業界の団体は、この機能に伴うリスクについてすぐに懸念を表明した。批評家は、実在の人物の公開写真をもとにしたAI生成画像が、なりすまし、誤情報、嫌がらせ、許可のないデジタル複製につながり得ると警告した。
複数の組織は、人物の見た目を再現できるAIシステムは、オプトアウト方式に頼るのではなく明示的な許可を求めるべきだと主張した。この論争はまた、ソーシャルメディア企業が公開されているコンテンツをジェネレーティブAI製品のためにどのように収集し、再利用しているのかをめぐる議論も再燃させた。
Metaは批判を認め、「的を外していた」と述べた。同社は、ユーザーのより強いコントロール機能を備えたAIによるクリエイティブ・ツールの開発を続ける一方で、その機能を無効化したことを確認した。
AI規制への関心がなお焦点に
今回の出来事は、政府や規制当局がパーソナルデータやデジタル・アイデンティティが新技術の学習や稼働にどう使われるのかを検討する中で、AI開発者が直面する監視が強まっていることを示している。先進的なAI製品を打ち出そうと急ぐ企業は、最初からプライバシー保護を自社のシステムに組み込むことへの期待が高まっている。
Metaにとって、この撤回は、AIに対する世間の受け入れが、単に技術的な能力だけでなく、透明性、同意、そして信頼にも左右されることを思い起こさせる。ジェネレーティブAI市場で競争が激化するにつれ、テクノロジー企業は、イノベーションが個人のプライバシー権の犠牲にならないことを示すよう、より強い圧力を受ける可能性が高い。
