« Est-ce que l’IA invente des chiffres? Comment l’empêcher? »

L’IA peut-elle vraiment se tromper sur des chiffres?

Oui. Vous avez raison de poser la question; c’est même la première à poser à quiconque propose d’installer de l’IA dans un cabinet ou une entreprise. Une IA générative produit du texte plausible, et du texte plausible peut être faux : un montant recopié de travers, un total qui a l’air juste, une explication convaincante d’une erreur. Ce n’est pas un défaut qu’un fournisseur corrige avec une mise à jour; c’est la nature de l’outil, et il faut bâtir avec cette réalité en tête. La conclusion honnête n’est pas d’écarter l’IA : c’est de construire le système en conséquence, pour qu’une IA générative ne soit jamais la source officielle d’un chiffre. Dans un système bien construit, la question « est-ce que l’IA invente des chiffres? » devient « qui fait foi des chiffres, et comment le vérifie-t-on? ». C’est à cette architecture, pas aux promesses, qu’on reconnaît un travail sérieux.

Qui fait foi des chiffres, alors?

Les chiffres officiels ne vivent jamais dans l’IA. Le logiciel comptable demeure la source officielle des montants, des remises et des déclarations : c’est lui qu’on consulte, c’est lui qui fait foi, et il le reste. Autour de lui, les étapes qui doivent être exactement reproductibles passent par des flux de travail déterministes : des automatisations à règles fixes où la même entrée produit toujours la même sortie, sans jugement de l’IA. Déplacer un fichier, envoyer un rappel selon un calendrier, appliquer une règle de catégorisation, calculer une date de remise : tout cela relève des règles fixes, pas de la génération. Quand un montant passe d’un système à un autre, une règle le transporte; personne ne le retape, et l’IA ne le « retient » pas de mémoire. La séparation est structurelle : ce qui doit être exact est déterministe; ce qui demande de la langue et de la nuance revient à l’IA.

À quoi sert l’IA, si les règles fixes gardent les chiffres?

L’IA lit, résume, rédige et calcule avec les données financières, parce que c’est précisément ce qui la rend utile. Elle lit une boîte courriel et en sort les pièces justificatives; elle résume un dossier avant un appel; elle rédige la relance qu’une personne aurait tapée à la main; elle explique un écart entre deux mois. La retirer de ce travail « par prudence » reviendrait à vendre un système plus faible, pas plus sûr. La distinction qui compte n’est pas « l’IA touche aux chiffres ou non »; c’est « qui fait foi ». L’IA travaille sur les données et prépare; le logiciel comptable et les flux à règles fixes enregistrent et font foi. Un brouillon de courriel, un résumé de dossier, un calcul de vérification peuvent venir de l’IA sans danger, justement parce que rien de tout cela ne devient officiel avant qu’une personne soit passée dessus.

Comment sait-on qu’une erreur ne se rendra pas au client?

Par la vérification, à deux étages. D’abord, le système signale ses propres exceptions : la pièce qui ne correspond pas, le montant hors de l’ordinaire, le cas que la règle ne couvre pas. Ces cas ne sont pas masqués; ils sont mis en file pour qu’une personne de l’équipe les tranche. Ensuite, rien de critique ne sort sans l’approbation de l’équipe : tout ce qui touche les livres ou qui part vers un client passe par quelqu’un. Les flux de travail instrumentés consignent leur propre activité (ce qui a été exécuté, quand, sur quoi), ce qui rend chaque étape vérifiable après coup plutôt que présumée correcte. Le principe qui résume tout le reste : la confiance ne vient pas de la restriction, elle vient de la vérification. Un fournisseur qui promet que son IA « ne touche à rien » vend un outil moins utile, pas plus sûr; un système digne de confiance montre ses vérifications.