Le conseiller en IA de la Maison-Blanche, Sachs, critique l’examen des modèles américains : Kimi K3 corrige 15 vulnérabilités de sécurité, et les modèles du camp américain s’imposent des auto-limites trop strictes

Le conseiller en IA de la Maison-Blanche, David Sacks, a indiqué que Kimi K3 avait corrigé 15 vulnérabilités de sécurité critiques en quelques jours, tandis que les modèles américains Codex et Fable ont raté leur traitement en raison de restrictions de « garde-fous de cybersécurité ».
(Contexte : Kimi K3 a pris la tête du classement des codes front-end ; le test à l’aveugle a battu Claude Fable 5)
(Complément de contexte : Kimi K3 mettrait-il la pression sur les géants américains de l’IA ? Des experts prédisent qu’Anthropic pourrait accélérer Opus 5, tandis que le GPT-6 pourrait être publié plus tôt)

Table des matières

Toggle

• Quelles sont les 15 vulnérabilités clés ?
• L’effet « garde-fou » de Codex et de Fable
• La course à la vitesse de l’IA la même semaine

Une phrase du conseiller de la Maison-Blanche résume la « limitation à soi-même » dans la compétition de l’IA américaine. Le 20 juillet, David Sacks, conseiller en IA de la Maison-Blanche, a publié sur une plateforme communautaire : Kimi K3 vient de corriger 15 vulnérabilités de sécurité critiques, tandis que Codex et Fable ont auparavant refusé de traiter ces problèmes en raison de restrictions de « garde-fous de cybersécurité ». Sacks souligne qu’il n’y a aucune raison de limiter les modèles américains pour des tâches que les modèles étrangers parviennent à accomplir : « faire cela ne ferait que réduire notre propre compétitivité ».

Quelles sont les 15 vulnérabilités clés ?

Kimi K3 est le modèle qui a pris la tête du classement mensuel des codes front-end, et qui a battu Claude Fable 5 lors de tests à l’aveugle impliquant des humains. Les « 15 vulnérabilités de sécurité critiques » mentionnées par Sacks couvrent des bogues internes détectés par Kimi K3 pendant la phase d’entraînement, des erreurs dans les chemins de raisonnement et des défaillances de l’auto-calibrage du modèle, entre autres. Si ces vulnérabilités n’étaient pas corrigées, elles affecteraient directement le taux de précision du modèle sur des tâches centrales comme la génération de code et le raisonnement logique.

L’effet « garde-fou » de Codex et de Fable

Codex est une série de modèles de code d’OpenAI ; Fable renvoie à la famille Claude d’Anthropic (le « Fable 5 » étant le dernier modèle de niveau Claude Opus). Les propos de Sacks suggèrent que les modèles américains mettent davantage de « garde-fous de cybersécurité » pendant les phases d’entraînement et d’inférence : par exemple, des contrôles obligatoires du format de sortie, la limitation de la profondeur de raisonnement, l’exclusion de certains chemins de raisonnement, etc. Ces garde-fous garantissent la fiabilité du modèle, mais bloquent aussi les voies permettant une auto-correction.

La course à la vitesse de l’IA la même semaine

Le jour même où Sacks s’est exprimé, l’expert de Succinct Labs, Brian Trunzo, a écrit que l’approche traditionnelle consistant à « distinguer l’IA » via des méthodes de détection avait déjà échoué ; des preuves à divulgation nulle de connaissance (ZK) peuvent apporter à l’IA des « preuves de comportement » vérifiables de façon indépendante. Cela fait écho au point de vue de Sacks : les modèles d’IA ne doivent pas seulement être fiables, ils doivent aussi être vérifiables.