Le PDG d’Anthropic nie prôner l’interdiction des modèles d’IA « open-weight »

Le PDG d’Anthropic, Dario Amodei, a publié un billet de blog lundi, affirmant que sa société n’a jamais plaidé en faveur d’une interdiction des modèles d’IA « open-weight ». Il répond ainsi à des critiques provenant de l’ensemble de l’industrie technologique. La déclaration intervient après qu’une coalition de sociétés tech, dont Nvidia, Microsoft, Meta et Palantir, a publié une lettre à la fin de la semaine dernière appelant les décideurs politiques à éviter des restrictions prématurées sur les modèles open-weight : des modèles que les utilisateurs peuvent télécharger, modifier et exécuter sur leur propre infrastructure. Le débat porte sur la question de savoir si des modèles open-weight développés en Chine, qui dominent actuellement le marché, devraient faire l’objet de restrictions aux États-Unis, certains responsables gouvernementaux envisageant même des interdictions.

Une coalition technologique appelle à ne pas restreindre les modèles open-weight

Une coalition de sociétés technologiques a publié une lettre à la fin de la semaine dernière appelant les décideurs politiques à éviter des restrictions prématurées sur les modèles open-weight. Les signataires comprenaient Nvidia, Microsoft, Meta et Palantir. OpenAI a signé la lettre après sa publication, tandis qu’Anthropic ne l’a pas signée. La lettre indique que les inquiétudes liées à la distillation illégale devraient être traitées via des cadres juridiques et commerciaux ciblés.

Amodei expose la position d’Anthropic sur la gouvernance des modèles d’IA

Dans son billet de blog publié lundi, Amodei a écrit qu’Anthropic n’a ni n’encourageait une interdiction des modèles open-weight en tant que catégorie. Il a déclaré que l’accent devrait plutôt être mis sur le fait d’empêcher les puces puissantes de tomber entre les mains de régimes autoritaires, d’arrêter la distillation à l’échelle industrielle et d’exiger des tests de sécurité pour tous les modèles suffisamment performants, qu’ils soient open ou fermés. Amodei a écrit que les interdictions protectionnistes ne répondraient pas à ses préoccupations les plus sérieuses en matière de sécurité nationale. Anthropic est surtout connue pour avoir développé une famille de modèles propriétaires appelés Claude, qu’elle vend aux entreprises.

Anthropic accuse Alibaba d’avoir mené une attaque de distillation

Anthropic a envoyé un courrier au comité sénatorial américain des banques, du logement et des affaires urbaines le mois dernier, alléguant que la société chinoise Alibaba, développeur de la famille de modèles Qwen, avait mené la plus grande attaque de distillation connue contre elle à ce jour. La distillation est une méthode d’entraînement de l’IA dans laquelle un modèle plus petit et moins capable est construit en utilisant les sorties d’un modèle plus grand déjà disponible sur le marché. Amodei a déclaré lundi qu’il est d’accord pour que les inquiétudes concernant la distillation illégale soient traitées via des cadres juridiques et commerciaux ciblés.

Amodei identifie les points d’accord et de désaccord avec la lettre de la coalition

Amodei a déclaré qu’il est d’accord avec certaines parties de la lettre de la coalition, notamment le fait que les modèles open-weight donnent aux clients un plus grand contrôle, élargissent l’accès à l’économie de l’IA et renforcent la concurrence dans certains cas d’usage. Il a déclaré être en désaccord avec l’idée selon laquelle les modèles open-weight favoriseraient les défenseurs du cyberespace plutôt que les attaquants, ou qu’ils faciliteraient l’élaboration de garanties par les utilisateurs.

FAQ

Que a déclaré le PDG d’Anthropic, Dario Amodei, au sujet de l’interdiction des modèles d’IA open-weight lundi ?

Dario Amodei a publié un billet de blog lundi, affirmant qu’Anthropic n’a jamais plaidé en faveur d’une interdiction des modèles d’IA open-weight en tant que catégorie. Il a écrit que l’accent devait plutôt être mis sur le fait d’empêcher les puces puissantes de tomber entre les mains de régimes autoritaires, d’arrêter la distillation à l’échelle industrielle et d’exiger des tests de sécurité pour tous les modèles suffisamment performants.

Pourquoi les entreprises technologiques ont-elles publié une lettre au sujet des modèles d’IA open-weight à la fin de la semaine dernière ?

Une coalition incluant Nvidia, Microsoft, Meta et Palantir a publié une lettre à la fin de la semaine dernière appelant les décideurs politiques à éviter des restrictions prématurées sur les modèles open-weight. La lettre s’inscrit dans le contexte d’un débat sur la question de savoir si des modèles open-weight développés en Chine, qui dominent actuellement le marché, devraient faire l’objet de restrictions aux États-Unis.

Quelle allégation de distillation qu’Anthropic a-t-elle formulée contre Alibaba le mois dernier ?

Anthropic a envoyé une lettre au comité sénatorial américain des banques, du logement et des affaires urbaines le mois dernier, alléguant que la société chinoise Alibaba, développeur de la famille de modèles Qwen, avait mené la plus grande attaque de distillation connue contre Anthropic à ce jour.