Le modèle d’IA Mythos d’Anthropic a identifié 90 bogues critiques de Microsoft SharePoint en avril

Le modèle d’IA de l’entreprise Anthropic, Claude Mythos Preview, a mis en évidence des bogues dans Microsoft SharePoint plus vite que le géant de la tech ne pouvait les corriger, d’après un enregistrement d’une réunion de la mi-mai consulté par ProPublica. Rien qu’en avril, Mythos a découvert 90 bogues critiques et 141 bogues importants dans SharePoint, le logiciel de collaboration de Microsoft, avec encore davantage détecté au cours de la première moitié de mai. Anthropic a accordé un accès anticipé à certaines organisations au modèle d’IA, afin qu’elles puissent identifier et corriger des vulnérabilités avant que des hackers et des gouvernements hostiles ne puissent les exploiter à des fins d’espionnage et de sabotage. Des ingénieurs de Microsoft ont décrit la situation comme une « course folle » pour corriger des vulnérabilités avant une date limite du 31 mai, à partir de laquelle des outils d’IA similaires deviendraient largement accessibles. La course met en lumière le défi sécuritaire posé par une découverte de bogues par IA qui dépasse les processus de correction traditionnels.

Mythos a découvert 90 bogues critiques SharePoint en avril

Un après-midi de la mi-mai, des dizaines d’ingénieurs et de managers de Microsoft se sont réunis en ligne et au siège de l’entreprise, à Redmond, dans l’État de Washington, pour discuter du projet Glasswing. La réunion portait sur la question de savoir si la préversion de Claude Mythos « a réussi à faire “à la hauteur du battage médiatique” qu’Anthropic avait promis », selon l’enregistrement. Un responsable a confirmé que oui, en déclarant que l’IA mettait en évidence des bogues plus vite que Microsoft ne pouvait les corriger.

Une diapositive de la présentation montrait que Mythos avait trouvé 90 bogues critiques et 141 bogues importants dans SharePoint au cours d’avril. Le modèle d’IA a continué à découvrir davantage de vulnérabilités dans la première moitié de mai. Anthropic a développé Mythos et a accordé un accès à des organisations sélectionnées qui utilisent des logiciels employés par des personnes, des entreprises et des gouvernements ordinaires dans le monde entier.

Des ingénieurs de Microsoft confrontés à une date limite du 31 mai pour corriger

Le responsable de l’ingénierie Hans Andersen a expliqué au groupe qu’ils disposaient d’environ « deux semaines pour trouver un maximum de choses et faire le plus de bien possible grâce à cet accès ». Il a indiqué que le 31 mai « est considéré comme le jour où le reste du monde aura rattrapé », et Andersen a exhorté les équipes : « S’il vous plaît, s’il vous plaît, s’il y a des bogues d’avril dans votre organisation, faites-les baisser ».

L’objectif était de corriger des faiblesses avant que des hackers et des gouvernements hostiles, comme la Chine, ne commencent à utiliser des outils similaires pour les identifier et les exploiter à des fins d’espionnage et de sabotage. Microsoft était en course pour réduire l’écart entre la découverte de bogues et leur correction.

Les ingénieurs ont averti que les adversaires pourraient accéder aux bogues après la publication publique

Les ingénieurs présents à l’appel se sont interrogés sur le calendrier, l’un résumant la situation : « Donc, en gros, vous dites que si c’est publié le 1er juin, alors le 2 juin les adversaires auront nos bogues ? » L’échange a reflété les inquiétudes liées à la fenêtre étroite entre les efforts de correction de Microsoft et l’accès potentiel d’adversaires à des outils de découverte de bogues pilotés par l’IA.

L’enregistrement de la réunion consulté par ProPublica documente la réponse du géant technologique à une détection des vulnérabilités par l’IA qui dépasse les processus de sécurité traditionnels. Des ingénieurs de Microsoft travaillaient à corriger des bogues dans SharePoint avant que les capacités du modèle d’IA ne deviennent largement disponibles.

FAQ

Que l’IA Mythos d’Anthropic a-t-elle découvert dans Microsoft SharePoint en avril ?
Mythos a découvert 90 bogues critiques et 141 bogues importants dans SharePoint en avril, d’après une diapositive de présentation montrée lors d’une réunion de Microsoft de la mi-mai. Le modèle d’IA a trouvé encore davantage de vulnérabilités dans la première moitié de mai.

Pourquoi les ingénieurs de Microsoft étaient-ils confrontés à une date limite du 31 mai pour corriger des bogues ?
Le responsable de l’ingénierie Hans Andersen a déclaré que le 31 mai « est considéré comme le jour où le reste du monde aura rattrapé », ce qui signifie que des outils d’IA similaires deviendraient largement disponibles. Microsoft était en course pour corriger les vulnérabilités avant que des hackers et des gouvernements hostiles ne puissent utiliser des outils comparables pour les exploiter.

Comment les ingénieurs de Microsoft ont-ils décrit la situation de correction ?
Un responsable a décrit les ingénieurs comme étant dans un « sprint effréné » pour combler l’écart entre la découverte de bogues et la correction. Le responsable de l’ingénierie Hans Andersen a exhorté les équipes à « faire baisser » les bogues d’avril, en déclarant qu’ils disposaient d’environ « deux semaines pour trouver autant de choses que possible et faire le plus de bien possible grâce à cet accès ».