Le Premier ministre britannique Keir Starmer cible les chatbots d'IA dans une nouvelle initiative de sécurité des enfants

Le Premier ministre britannique Keir Starmer a présenté des plans visant à soumettre les chatbots d’IA à des règles de sécurité en ligne plus strictes, avertissant que les technologies émergentes transforment l’enfance de manière que les décideurs ne peuvent plus ignorer.

Résumé

• Le Premier ministre britannique Keir Starmer a indiqué son intention d’étendre les lois de sécurité en ligne pour couvrir les chatbots d’IA utilisés par les enfants.
• Le gouvernement s’inquiète des risques tels que le contenu inapproprié, la dépendance émotionnelle et les conseils générés par l’IA non régulés.
• Une consultation publique examinera de nouveaux pouvoirs réglementaires pour garantir que les outils d’IA opérant au Royaume-Uni soient sûrs pour les mineurs.

Les chatbots d’IA pourraient bientôt être soumis à des règles plus strictes au Royaume-Uni pour protéger les mineurs

Dans une récente mise à jour sur Substack, Starmer a déclaré que la protection des jeunes doit évoluer parallèlement à l’avancement rapide des outils d’intelligence artificielle. Alors qu’une grande partie du débat sur les dommages en ligne s’est concentrée sur les réseaux sociaux, il a soutenu que les chatbots alimentés par l’IA présentent désormais de nouveaux risques complexes, en particulier pour les enfants et les adolescents.

Starmer a indiqué que le gouvernement britannique envisage d’étendre les lois existantes de sécurité en ligne pour couvrir explicitement les systèmes d’IA. Les chatbots sont de plus en plus intégrés dans des applications, moteurs de recherche et plateformes autonomes, engageant souvent les utilisateurs dans des conversations très personnalisées et semblables à celles des humains.

Pour les jeunes utilisateurs, il a averti, cela peut brouiller la frontière entre information, influence et manipulation.

Le Premier ministre a évoqué des préoccupations allant de l’exposition à du contenu inapproprié à la dépendance émotionnelle et aux conseils non contrôlés. Contrairement aux plateformes traditionnelles, les systèmes d’IA peuvent générer des réponses en temps réel, rendant la supervision et la modération plus difficiles.

Il a suggéré que le Parlement pourrait avoir besoin de nouveaux pouvoirs réglementaires pour réagir rapidement à mesure que la technologie évolue.

Starmer a présenté la question comme faisant partie d’un effort plus large pour « donner aux enfants l’espace pour grandir » sans être façonnés par des algorithmes opaques ou des systèmes numériques non régulés. Il a souligné que l’innovation ne doit pas se faire au détriment de la sécurité, et que les entreprises technologiques doivent assumer une plus grande responsabilité quant à la conception et au déploiement de leurs outils.

Une consultation publique devrait examiner la meilleure façon de réglementer les services pilotés par l’IA utilisés par les mineurs. Une fois les preuves recueillies, Starmer a déclaré que le gouvernement agirait rapidement, laissant entendre que les chatbots d’IA deviendraient probablement un point central de la prochaine phase de réforme de la sécurité en ligne au Royaume-Uni.