Le modèle mythique d'Anthropic, Claude Mythos, n'est pas accessible au public

Anthropic a annoncé aujourd’hui un plan : Project Glasswing (le plan « Glasswing »). La raison pour laquelle ce plan est lancé est qu’Anthropic a entraîné un tout nouveau modèle ultra-puissant, Claude Mythos Preview. En réalité, il s’agit du modèle mentionné dans la fuite du code source d’il y a deux jours.

Les parties prenantes du projet incluent AWS (Amazon), Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan, la Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks, ainsi qu’Anthropic lui-même, soit 12 organisations à l’origine de l’initiative.

En termes simples : comme ce modèle est trop puissant, il faut adopter un mode de tests de sécurité, ne l’utiliser que pour un usage interne au sein des organisations autorisées, et ne pas l’ouvrir au public. À quel point est-il puissant ? Allez, regardez directement les données, les capacités de codage et de raisonnement sont largement supérieures à opus 4.6 :

Code :

Raisonnement :

Recherche et utilisation d’un ordinateur

« opus » signifie littéralement chef-d’œuvre, « Mythos » signifie littéralement mythe. Le PDG d’Anthropic, ainsi que de nombreux grands partenaires, sont tous sortis pour soutenir ce plan.

Anthropic a clairement indiqué qu’il n’a pas l’intention d’ouvrir Claude Mythos Preview au public. Mais l’objectif à long terme est de permettre aux utilisateurs d’utiliser en toute sécurité des modèles disposant du même niveau de capacités. Pour ce faire, ils prévoient d’abord de développer et de valider des mécanismes de protection de sécurité associés sur le prochain modèle Claude Opus, puis d’achever les itérations dans des conditions où les risques sont maîtrisés, avant de progresser progressivement—et ils pourraient très vite publier une nouvelle version d’opus afin d’offrir les capacités correspondantes.

Examinons en détail ce qu’est exactement Project Glasswing

Que découvre ce modèle ?

Au cours des quelques dernières semaines, Anthropic a utilisé Claude Mythos Preview pour scanner les systèmes d’exploitation grand public, les navigateurs et d’autres logiciels importants.

Résultat : des milliers de vulnérabilités zero-day auparavant jamais détectées, dont une grande partie ont été classées comme présentant un niveau de danger élevé.

Quelques cas concrets :

Un problème vieux de 27 ans dans OpenBSD. OpenBSD est réputé pour sa sécurité et est utilisé pour exécuter des infrastructures critiques comme des pare-feu. Cette vulnérabilité permet à un attaquant de provoquer un crash distant de la machine cible simplement en se connectant à celle-ci.

Une vulnérabilité vieux de 16 ans dans FFmpeg. FFmpeg est utilisé par d’innombrables logiciels pour le codage/décodage vidéo. La ligne de code où le modèle a trouvé la vulnérabilité avait déjà été scannée 5M fois par des outils de tests automatisés, sans jamais être détectée.

Dans le noyau Linux, le modèle a découvert et enchaîné de façon autonome plusieurs vulnérabilités, permettant à un attaquant de passer de simples droits d’utilisateur à un contrôle total de toute la machine.

Toutes ces vulnérabilités ont été signalées aux mainteneurs concernés des logiciels et sont désormais entièrement corrigées. Pour le reste des vulnérabilités, Anthropic a d’abord publié des empreintes de hachage chiffrées ; une fois la correction terminée, ils publieront les détails précis.

Pourquoi faire cela ?

Le raisonnement d’Anthropic est le suivant : la capacité des modèles d’IA à découvrir et exploiter des vulnérabilités logicielles a déjà dépassé tout le monde, à l’exception de quelques experts humains de tout premier niveau.

La diffusion de cette capacité est une question de temps, pas une question de savoir si cela arrivera.

Les pertes économiques dues à la cybercriminalité à l’échelle mondiale sont estimées chaque année à environ 8B de dollars. Des attaques contre les systèmes de santé, les infrastructures énergétiques et les organismes gouvernementaux ont déjà causé des dommages concrets, et elles constituent aussi une menace persistante pour des infrastructures civiles et militaires.

L’IA réduit fortement le coût, le seuil d’entrée et le niveau de compétence nécessaires pour mener ce type d’attaques.

La logique d’Anthropic est : plutôt que d’attendre que les autres utilisent cette capacité à des fins d’attaque, autant l’utiliser de manière proactive pour la défense.

Comment le plan sera-t-il mis en œuvre concrètement ?

Project Glasswing comprend actuellement deux volets.

Le premier volet concerne 12 partenaires fondateurs : ils obtiendront l’accès à Claude Mythos Preview pour scanner et corriger les vulnérabilités de leurs propres systèmes centraux. Les directions prioritaires incluent la détection de vulnérabilités locales, les tests « boîte noire » sur des binaires, la sécurité des endpoints, les tests d’intrusion, etc.

Le deuxième volet concerne environ 40 autres organisations qui construisent ou maintiennent des infrastructures critiques de logiciels : elles obtiendront également l’accès au modèle pour scanner les systèmes qu’elles possèdent et les systèmes open source.

À cette fin, Anthropic s’engage à fournir un plafond maximal de 100 millions de dollars d’utilisation du modèle. Une fois la période de prévisualisation de la recherche terminée, Claude Mythos Preview fournira un accès commercial aux participants, avec une tarification de 25/125 dollars par million de tokens d’entrée/sortie, et la prise en charge via Claude API, Amazon Bedrock, Google Cloud Vertex AI et Microsoft Foundry.

En outre, Anthropic fera, via la Linux Foundation, des dons de 2,5 millions de dollars à Alpha-Omega et de 1,5 million de dollars à OpenSSF, pour un total de 4 millions de dollars, afin d’aider les mainteneurs de logiciels open source à faire face à cette nouvelle situation. Les mainteneurs de logiciels open source peuvent demander des droits d’accès via le projet « Claude for Open Source ».

Prochaines étapes

En matière de partage d’informations, les partenaires échangeront autant que possible des informations et des meilleures pratiques. Anthropic s’engage à publier un rapport d’avancement de la recherche dans un délai de 90 jours, incluant le nombre de vulnérabilités découvertes, les problèmes déjà corrigés, ainsi que les résultats d’amélioration qui pourront être divulgués.

En matière de recommandations politiques, Anthropic travaillera avec les principales institutions de sécurité afin d’élaborer des recommandations de pratiques sur les directions suivantes : processus de divulgation des vulnérabilités, processus de mise à jour des logiciels, sécurité de l’open source et de la chaîne d’approvisionnement, cycle de vie de développement de logiciels sûrs, standards de secteurs réglementés, mise à l’échelle et automatisation de la classification des vulnérabilités, automatisation des correctifs.

Pour des informations complètes, voir le texte officiel original : https://www.anthropic.com/glasswing