Le ministre américain des Finances et le président de la Réserve fédérale convoquent en urgence les dirigeants de Wall Street, afin de répondre à l’alerte émise par le dernier modèle Mythos d’Anthropic. Les autorités ont classé ce modèle comme un risque systémique pour le système financier.
Les responsables des finances convoquent en urgence les dirigeants de Wall Street : la menace des réseaux d’IA passe au statut de risque systémique
Selon un rapport de Bloomberg, le ministre américain des Finances, Scott Bessent, et le président de la Réserve fédérale, Jerome Powell, ont convoqué la semaine dernière à Washington, au siège du ministère des Finances, en urgence les directeurs généraux des principales banques de Wall Street, afin de mettre en garde au sujet des risques de cybersécurité potentiellement déclenchés par le dernier modèle d’IA d’Anthropic, « Claude Mythos Preview ».
Parmi les dirigeants présents figuraient notamment le PDG de Citigroup, Jane Fraser, le PDG de Morgan Stanley, Ted Pick, le PDG de Bank of America, Brian Moynihan, le PDG de Wells Fargo, Charlie Scharf, ainsi que le PDG de Goldman Sachs, David Solomon ; le PDG de JPMorgan, Jamie Dimon, n’a pas pu se rendre. Les établissements susmentionnés ont tous été classés par les autorités de tutelle comme institutions financières d’importance systémique.
Cette réunion a été présidée par le ministre des Finances et le président de la Réserve fédérale, qui y ont participé personnellement. Dans l’industrie, l’événement est perçu comme une initiative inhabituelle. Dans le passé, l’intervention du gouvernement face aux risques liés à l’IA se limitait le plus souvent à des groupes de travail au niveau des institutions ; désormais, l’alerte est émise directement par les plus hauts responsables des autorités financières, ce qui signifie clairement que les autorités ont qualifié les menaces de cybersécurité liées à l’IA de risque systémique pour la stabilité du système financier.
Les capacités du modèle Mythos sont impressionnantes : il peut découvrir des milliers de vulnérabilités zero-day
D’après la documentation technique publiée par Anthropic le même jour, Mythos possède la capacité d’identifier et d’exploiter des vulnérabilités dans tous les principaux systèmes d’exploitation et navigateurs web. Au stade des tests, le modèle a identifié de manière autonome des milliers de vulnérabilités zero-day auparavant inconnues, dont une faille dissimulée pendant jusqu’à 27 ans dans un système d’exploitation open source orienté sécurité, OpenBSD ; en outre, le modèle a également découvert une vulnérabilité dans la bibliothèque de traitement vidéo FFmpeg, une faille que les outils de tests automatisés n’ont pas réussi à détecter, même après 5 millions d’exécutions de procédures.
Les chercheurs d’Anthropic soulignent que la capacité de découverte de vulnérabilités de Mythos provient des progrès globaux du modèle en matière de rédaction de programmes, de raisonnement et d’autonomie, et non d’un entraînement délibérément conçu pour cela.
La société a indiqué dans une déclaration : « La même capacité qui rend le modèle plus efficace pour corriger des vulnérabilités le rend aussi plus efficace pour exploiter des vulnérabilités. » Cette formulation met en lumière la double face de Mythos : la frontière entre défense et attaque, qui s’efface presque en présence de ce type de modèle.
Anthropic refuse de divulguer et de publier : lancement du « Project Glasswing » pour limiter l’accès
Parce que ses capacités sont trop puissantes, Anthropic a décidé de ne pas publier Mythos au public. L’entreprise adopte une stratégie de restriction d’accès et n’ouvre l’utilisation qu’à des entreprises partenaires spécifiques. La société a également annoncé le lancement d’un programme défensif de cybersécurité nommé « Project Glasswing » (« Project Glasswing »), en collaboration avec plus de 40 partenaires d’entreprises tels qu’AWS, Apple, Cisco, Google, JPMorgan, Microsoft et NVIDIA, avec pour objectif d’identifier et de corriger de façon proactive les vulnérabilités dans les logiciels clés avant toute action des attaquants.
Source des images : X/@AnthropicAI Anthropic annonce également le lancement du programme défensif de cybersécurité nommé « Project Glasswing » (« Project Glasswing »)
Anthropic déclare : « Compte tenu de la puissance des capacités du modèle, nous adoptons une approche prudente en matière de publication. Nous travaillons avec un petit groupe de clients disposant d’un accès anticipé pour tester ce modèle et nous le considérons comme la génération la plus révolutionnaire que nous ayons construite jusqu’à présent. »
La société a également révélé qu’elle a présenté des exposés aux responsables gouvernementaux concernant les scénarios d’application offensifs et défensifs de Mythos, et qu’elle continue de mener des discussions avec la CISA (Cybersecurity and Infrastructure Security Agency) et le centre d’innovation pour les standards de l’IA. À l’avenir, les regards du public se concentrent sur la manière dont les autorités de régulation vont établir des normes de revue similaires pour la publication de modèles de ce type, sur les mesures défensives concrètes que les institutions financières devraient prendre, et sur la capacité des organismes de régulation internationaux à se coordonner au rythme de l’évolution technologique.
Cet article a été généré en compilant les informations de divers acteurs par l’agent chiffré, et a été relu et édité par 《加密城市》 ; il est actuellement encore en phase de formation, et peut contenir des écarts logiques ou des erreurs d’information. Le contenu est uniquement fourni à titre de référence ; veuillez ne pas le considérer comme un conseil en investissement.
