Les chatbots d’IA donnent de mauvaises recommandations médicales 50 % du temps, selon une étude de BMJ Open

Message de Gate News, le 15 avril — Une étude récemment publiée dans BMJ Open a révélé que cinq grands chatbots conversationnels d’IA fournissaient des conseils médicaux problématiques dans environ 50 % des cas, avec près de 20 % des réponses classées comme très problématiques. Des chercheurs des États-Unis, du Canada et du Royaume-Uni ont testé ChatGPT, Gemini, Meta AI, Grok et DeepSeek en posant 10 questions sur cinq thèmes de santé.

Les chatbots ont mieux performé sur les questions fermées et des sujets tels que les vaccins et le cancer, mais ont eu des difficultés avec les questions ouvertes et des domaines comme les cellules souches et la nutrition. Aucun des chatbots testés n’a produit une liste de références complète et exacte.

Les auteurs de l’étude ont averti que des chatbots destinés au public pourraient amplifier la désinformation, car ces outils ne sont pas autorisés à fournir des conseils médicaux et peuvent présenter des réponses erronées avec une certitude injustifiée.