Récemment, j'ai pris connaissance d'une recherche sur la sécurité de la reconnaissance d'empreintes digitales des modèles LLM, et j'ai découvert un phénomène intéressant.

Nous considérons généralement que les schémas de reconnaissance de caractéristiques de certains LLM sont assez robustes, mais dans un environnement d'adversité réelle, la situation est beaucoup plus complexe. Cette étude adopte une hypothèse très réaliste : supposons que l'hôte ait des intentions malveillantes. Dans le cadre du déploiement de modèles open source, un serveur malveillant peut tout à fait prendre des mesures ciblées.

Quelle est la clé ? L'attaquant n'a pas besoin de compromettre la fonctionnalité du modèle lui-même, il lui suffit d'effacer ou de falsifier discrètement les caractéristiques d'empreinte utilisées pour l'identification en arrière-plan.

L'équipe de recherche a testé 10 solutions de reconnaissance d'empreintes digitales populaires, et les résultats sont plutôt significatifs : lors d'attaques ciblées, 9 des solutions ont été réussies à être contournées. Cela montre que la plupart des technologies d'empreintes digitales existantes ont une stabilité bien inférieure aux attentes face à de réelles menaces. Cela mérite en effet une réévaluation des stratégies de protection actuelles pour les développeurs qui cherchent à assurer la traçabilité et l'authentification des modèles.