Expérience : l’IA n’a pas rendu les gens plus intelligents, mais ceux qui « reconnaissent ne pas comprendre » sont presque devenus nuls.

Des chercheurs français et italiens ont mené cinq expériences avec 3,132 sujets et ont constaté que, dès lors qu’une IA formule une recommandation sur place, la proportion de personnes admettant « Je ne sais pas » passe de 44% à 3%, la proportion de bonnes réponses de 27% à 9%, tandis que leur confiance dans leurs réponses passe de 30% à 76%. Les questions ont été intentionnellement conçues de sorte que l’IA se trompe à coup sûr ; même en ajoutant une incitation financière pour répondre correctement, le report du jugement ne revient qu’à 8%. Valerio Capraro, qui dirige l’étude, estime que cela doit être géré par l’alphabétisation à l’IA et des politiques éducatives.
(Contexte : Les robots conversationnels ne font pas qu’acquiescer : une étude de Nature révèle « l’escalade de l’illusion » menant les utilisateurs à de fausses certitudes)
(Complément : La maladie humaine de l’IA, le « cerveau en sous-traitance », s’aggrave à l’extrême ! Avertissement du fondateur d’iKala : la facilité détruit la créativité d’origine)

Résumé des points clés

• Cinq expériences, 3,132 sujets, avec une IA présente : la proportion de « Je ne sais pas » passe de 44% à 3%
• Le taux de réussite passe de 27% à 9%, mais la confiance dans les réponses passe de 30% à 76%
• En ajoutant une incitation financière en cas de bonne réponse, le report du jugement revient à 8% et le taux de réussite à 16%, restant très inférieur à la ligne de référence

Cinq expériences, 3,132 sujets : la conclusion tient en une phrase. D’après le média technologique The Register, des chercheurs français et italiens ont constaté que, dès qu’on a à portée de main une IA qu’on peut interroger, la proportion de personnes admettant « Je ne sais pas » chute de 44% à 3%, et que le taux de bonnes réponses passe aussi de 27% à 9%, mais que la confiance dans ses propres réponses grimpe au contraire de 30% à 76%.

L’étude a été menée conjointement par Valerio Capraro, vice-professeur à l’Université de Milano-Bicocca, Chiara Marcoccia, de l’École normale supérieure de Paris, et Walter Quattrociocchi, de l’Université de Rome. Le papier a été mis en ligne sur arXiv à la mi-juillet ; quatre des cinq expériences ont été enregistrées au préalable.

L’IA ne rend pas les gens plus intelligents ou moins intelligents : elle abaisse très fortement le seuil pour « avoir l’impression qu’on comprend ».

Les questions ont été conçues pour que l’IA se trompe à coup sûr

L’équipe n’a pas choisi les questions au hasard. Ils ont retenu des problèmes que les grands modèles de langage ratent particulièrement facilement, et qui portent tous sur des détails visuels de films, comme la couleur des uniformes de l’équipe dans « J’aime Becker ». Ce type de questions exige d’avoir vu l’image pour répondre ; le modèle ne peut que deviner en s’appuyant sur des corpus.

En rendant les recommandations de l’IA systématiquement fausses, on sépare « l’IA est-elle utile » de « l’IA est-elle juste ». Les sujets peuvent tout au long de l’expérience choisir de ne pas répondre et simplement dire qu’ils ne savent pas.

Le résultat : dès que l’IA est là, l’option « ne pas répondre » est presque jamais choisie. Que les recommandations soient demandées par les sujets ou directement affichées par le système, l’effet inhibiteur est le même.

Même avec une incitation via l’argent, on ne récupère qu’une faible partie

L’équipe a ensuite renforcé l’expérience : réponse correcte rémunérée, réponse incorrecte pénalisée. L’incitation fonctionne bien : les sujets demandent moins à l’IA et copient aussi moins ; la proportion de report du jugement, qui était à 3%, remonte à 8% ; et le taux de bonnes réponses, de 9%, passe à 16%.

Mais on est encore très loin de la ligne de référence : sans IA, le report du jugement est à 44% et le taux de bonnes réponses à 27%. Autrement dit, même si l’argent est posé sur la table, les sujets ne récupèrent qu’à peine moins d’un quart de l’écart.

« Pour l’être humain, la capacité à dire “je ne sais pas” est très importante : cela signifie que nous reconnaissons les limites de nos connaissances. » Valerio Capraro dit : « Mais maintenant, avec l’IA, presque n’importe quel problème peut avoir une réponse toute faite. Nous voulions donc savoir si cela perturbe la capacité humaine à dire “je ne sais pas” et à reporter le jugement. »

La préoccupation réelle de Valerio Capraro concerne les enfants, parce que « les adultes ont déjà appris la pensée critique ». Il estime que cela doit être traité par l’alphabétisation à l’IA et des politiques éducatives, et que l’intervention au niveau de l’éducation a plus de chances d’être efficace.

Pour ceux qui lisent tous les jours des données on-chain et qui décortiquent des notes de recherche, ce papier est un miroir. Ce qui mérite notre inquiétude n’est pas que le modèle invente, mais plutôt si, après avoir lu les résumés générés par l’IA, on remet en question sa propre compréhension : « Est-ce que je comprends vraiment ? »

Questions fréquentes

L’utilisation de l’IA influence-t-elle la pensée critique ?

Les cinq expériences de l’équipe de Valerio Capraro, de l’Université de Milano-Bicocca (3,132 personnes), montrent qu’en présence d’une recommandation de l’IA, la proportion de sujets qui admettent ne pas savoir passe de 44% à 3%, le taux de réussite de 27% à 9%, et la confiance dans les réponses de 30% à 76%.

Pourquoi cette étude a-t-elle conçu les questions pour que l’IA réponde faux ?

L’équipe a choisi volontairement des questions sur des détails visuels de films où les grands modèles de langage commettent facilement des erreurs, de sorte que la recommandation de l’IA soit systématiquement fausse. Ainsi, on peut séparer « l’IA est-elle utile » et « l’IA est-elle exacte », et démontrer que ce qui inhibe le report du jugement, c’est la présence de l’IA elle-même, et non la qualité des réponses.