Le fragment le plus cité n'est pas le plus vrai

Pourquoi l'optimisation pour les moteurs génératifs exerce, en santé, une pression de sélection vers la surconfiance scientifique.

Une équipe médicale relit un contenu destiné à un site institutionnel. La phrase dit :

« Dans un essai randomisé mené chez 4 200 adultes de 50 à 70 ans, la réduction du risque relatif était de 34 % (IC 95 % : 12–51). La certitude des preuves est modérée : l'effet sur la mortalité toutes causes reste imprécis. »

Elle est exacte. Elle est sourcée. Elle est calibrée.

Et elle a très peu de chances d'être reprise par un moteur génératif.

Cette phrase-ci, en revanche, en a beaucoup :

« Le traitement réduit le risque de 34 %. »

La même étude. La même donnée. Une information différente.

C'est tout le problème, et il n'est pas rhétorique.

Ce que les moteurs génératifs sélectionnent réellement

L'accès à l'information médicale s'est déplacé. On ne consulte plus une liste de résultats, on lit une réponse. Cette réponse n'est pas composée de pages : elle est composée de fragments — des passages courts, prélevés dans des sources différentes, recombinés.

Le mécanisme mérite d'être décrit précisément, parce que c'est lui qui détermine tout le reste. Une question complexe est décomposée en sous-questions. Pour chacune, le système récupère des passages candidats issus de sources diverses. Ces passages entrent en compétition. Ceux qui sont retenus sont ceux qui présentent trois propriétés : ils répondent exactement à une sous-question, ils proviennent d'une source jugée autoritaire, et — c'est le point critique — ils se suffisent à eux-mêmes.

Un fragment voyage seul. Il est arraché à son contexte, à sa section, à son article. Ce qui n'est pas dans le fragment n'existe plus.

Or dans un texte scientifique, où se trouvent les qualificateurs ? Dans la phrase suivante. Dans la section limites. Dans le tableau d'évaluation du risque de biais. Dans la note de bas de page. Précisément là où le fragment ne va pas.

Une pression de sélection ne fabrique rien : elle trie

L'antibiotique ne rend pas une bactérie résistante. Il élimine celles qui ne le sont pas, et la composition de la population change — sans qu'aucun organisme n'ait été transformé.

Les moteurs génératifs ne fabriquent pas de science surconfiante. Ils sélectionnent, dans un matériau existant, les formulations les plus nettes, les plus autonomes, les plus dépourvues de réserve. Et le corpus visible change.

C'est une pression de sélection, au sens strict. Elle ne s'exerce pas sur la véracité d'un énoncé mais sur sa forme — et il se trouve que la forme qui gagne est celle dont on a retiré la calibration.

Le mouvement se referme lorsqu'un producteur de contenu observe ce qui est cité, en tire les conclusions, et écrit désormais des fragments nets. À ce stade, la sélection n'agit plus seulement sur la restitution : elle agit sur la production. C'est là que la boucle devient préoccupante.

Pourquoi c'est un problème de santé, et pas un problème de style

Trois raisons, d'inégale gravité.

La délocalisation du qualificateur. Quand une réserve disparaît, elle ne se déplace pas ailleurs. Elle est perdue. Le lecteur — patient ou professionnel — reçoit une estimation ponctuelle dépourvue de son intervalle, sa population dépourvue de ses critères d'inclusion, son effet dépourvu de son niveau de certitude. Il n'a aucun moyen de savoir que quelque chose manquait, puisque rien dans la réponse ne le signale.

L'extrapolation automatique. Un fragment qui omet sa population source sera appliqué à toutes les populations. « Réduit le risque de 34 % » ne dit pas chez qui. La question posée au moteur, elle, contient toujours un « moi » implicite : j'ai 72 ans, j'ai tel antécédent, est-ce que ça marche ? La recombinaison produit une réponse personnalisée à partir d'un matériau qui ne l'était pas.

L'exposition réglementaire. Pour un laboratoire, un fragment optimisé pour la citation est un fragment dont on a retiré les éléments qui en garantissaient la conformité : périmètre d'indication, population, niveau de preuve. Un contenu conforme au moment de sa validation peut devenir, une fois fragmenté et recombiné, un énoncé promotionnel surclaimé — sans qu'aucune personne n'ait pris la décision de le rendre tel. Le risque n'est pas dans l'intention, il est dans le mécanisme.

Ce n'est pas un plaidoyer pour la prudence rhétorique

L'objection est légitime et il faut l'écarter nettement : non, la réponse n'est pas d'écrire plus prudemment.

La prudence rhétorique produit des couvertures vagues — « pourrait », « certaines études suggèrent », « les résultats sont encourageants ». Ces formules sont parfaitement extractibles et parfaitement inutiles. Elles n'informent pas sur le niveau de certitude, elles signalent seulement que l'auteur ne veut pas s'engager. Un moteur les reprendra volontiers, et le lecteur n'aura rien appris.

La calibration est l'inverse. Elle spécifie l'incertitude au lieu de la diffuser : quel effet, chez qui, avec quel degré de certitude, et sur quoi la preuve ne dit rien. C'est une information supplémentaire, pas une réserve défensive.

Un hedge vague est extractible et creux. Une certitude spécifiée est extractible et dense. La contrainte technique n'oblige donc à rien d'autre qu'à un déplacement : faire entrer la calibration dans l'énoncé, au lieu de la reléguer autour de lui.

Le fragment calibré

Reprenons les trois versions de la même donnée.

Source, calibrée, non extractible :

« Dans un essai randomisé mené chez 4 200 adultes de 50 à 70 ans, la réduction du risque relatif était de 34 % (IC 95 % : 12–51). La certitude des preuves est modérée : l'effet sur la mortalité toutes causes reste imprécis. »

Extractible, décalibrée :

« Le traitement réduit le risque de 34 %. »

Extractible et calibrée :

« Chez l'adulte de 50 à 70 ans, un essai randomisé montre une réduction du risque d'environ un tiers. Cette estimation est de certitude modérée, et l'effet sur la mortalité n'est pas établi. »

La troisième version est autonome : elle survit à l'arrachement. Elle est courte, directe, elle répond à une sous-question — et elle transporte sa population, sa magnitude approchée, son niveau de certitude et sa limite. Elle satisfait le mécanisme sans lui céder.

Quatre principes suffisent à la produire.

1. La certitude est dans la phrase, jamais autour. Le fragment voyage seul ; tout ce qui est en note, en encadré ou dans la section suivante est perdu à la première extraction.

2. La population est dans la phrase. Un effet sans population est un effet universel par défaut. C'est la porte d'entrée de l'extrapolation.

3. « Ce que cette étude ne permet pas de conclure » est un fragment à part entière. Formulé en langage naturel, en réponse directe, il devient récupérable comme les autres — et il est aujourd'hui presque absent du corpus, donc sans concurrence.

4. La granularité de l'affirmation suit la granularité de la preuve. On n'écrit pas « réduit la mortalité » quand le critère mesuré était un marqueur intermédiaire. C'est vrai hors ligne ; c'est irréversible en ligne.

Ce que la machine ne fera pas

On m'objectera que les modèles progressent, et que ce problème se résorbera de lui-même.

Il faut distinguer deux choses. La pression de sélection décrite ici ne porte pas sur la qualité du modèle : elle porte sur la forme du matériau source. Tant que la récupération opère au niveau du passage, le passage autonome l'emportera sur le passage dépendant de son contexte. Et surtout : aucun progrès du modèle ne restitue un qualificateur qui n'était pas dans la source. On ne peut pas récupérer une information qui n'a pas été écrite.

C'est pourquoi la charge revient au producteur du contenu, et non au système qui le lit.

Une machine trie, extrait, recombine. Elle ne juge pas la certitude d'un corps de preuves — elle n'en a ni le mandat ni les moyens. Ce jugement doit donc être inscrit dans le matériau lui-même, à l'échelle du fragment, ou il disparaîtra à la première extraction.

C'est un travail d'affaires médicales. Il n'a simplement pas encore été reconnu comme tel.