最近LLMモデルのフィンガープリンティングに関するセキュリティ研究に注目しており、興味深い現象を発見しました。

私たちは通常、特定のLLMの特徴認識スキームがかなり堅牢であると考えていますが、実際の対抗環境では状況ははるかに複雑です。この研究は非常に現実的な仮定を採用しています——ホスティング側に悪意のある意図が存在するという仮定です。オープンソースモデルの展開シナリオでは、悪意のあるサーバーが標的を絞った対策を講じることが完全に可能です。

重要なのは何ですか？攻撃者はモデル自体の機能を破壊する必要はなく、バックグラウンドで静かにアイデンティティ識別に使用される指紋特徴を削除または改ざんするだけで済みます。

研究チームは10種類の主流の指紋認識ソリューションをテストし、その結果は非常に顕著でした——ターゲットを絞った対抗攻撃の下で、9つのソリューションが成功裏にハッキングされました。これは、既存のほとんどのモデル指紋技術が実際の脅威に直面したとき、その安定性が予想を大きく下回ることを示しています。モデルのトレーサビリティと認証を追求する開発者にとって、現在の防御戦略を再評価する価値があることは確かです。