Substack ajoute un détecteur d’IA, et ses auteurs refusent de jouer le jeu
Les lecteurs peuvent désormais analyser tout texte de plus de 100 mots pour y rechercher des signes de rédaction par IA. Les auteurs dénoncent une chasse aux sorcières, avec de solides arguments tirés des études sur la fiabilité de ces outils.
Depuis le 21 juillet, Substack propose une fonction de détection de textes générés par IA, conçue avec la société Pangram. Tout billet, note ou commentaire de plus de 100 mots peut être analysé. L’outil renvoie un pourcentage censé indiquer la probabilité d’une génération automatique. Le lecteur ne voit le résultat que s’il lance lui-même l’analyse, seuls les contenus publiés après le 21 juillet sont concernés et les auteurs peuvent désactiver la fonction pour leurs propres textes. Ces précautions n’ont pas apaisé la colère. Sur la plateforme, certains parlent d’une chasse aux sorcières. Leur objection principale porte moins sur le principe que sur la fiabilité.
Les études qu’ils citent fragilisent fortement la promesse des détecteurs. En 2023, une recherche de Stanford souvent reprise a soumis à sept outils des dissertations authentiquement humaines, rédigées par des personnes dont l’anglais n’était pas la langue maternelle. En moyenne, 61 % ont été classées comme produites par une IA. Ces erreurs ne sont pas aléatoires. Les détecteurs repèrent notamment un vocabulaire prévisible et peu de variation dans les phrases. Ces caractéristiques apparaissent dans certains textes automatiques, mais aussi chez une personne qui écrit soigneusement dans une langue seconde ou choisit volontairement la simplicité. Les conséquences sont en outre asymétriques : manquer un texte généré ne coûte rien, tandis qu’une accusation erronée peut poursuivre durablement un auteur. Prouver que l’on n’a pas utilisé un outil reste presque impossible.
La difficulté est plus profonde : détecter l’IA n’est pas un problème d’ingénierie que l’on résout comme le filtrage du spam. Un texte ordinaire ne contient aucun filigrane. Le détecteur classe donc un style et formule une probabilité sur une cible mouvante, qui ressemble davantage à l’écriture humaine à chaque nouvelle génération de modèles. Il ne saisit pas non plus la différence qui intéresse vraiment la plupart des lecteurs. Un texte écrit par une personne puis retouché par un modèle et un autre entièrement produit à partir d’une consigne d’une ligne paraissent beaucoup plus proches au classificateur qu’au lecteur. Un pourcentage unique efface toutes ces nuances derrière un chiffre qui inspire une autorité injustifiée.
Ce que cela signifie pour vous : Si vous écrivez en public, partez du principe qu’un outil analysera un jour vos textes et pourra se tromper contre vous. Les protections utiles sont banales : conservez vos brouillons, l’historique des versions et vos notes afin de montrer votre démarche plutôt que de discuter un score. Ne déformez pas votre style naturel pour satisfaire un classificateur, piège décrit par plusieurs auteurs de Substack. Si vous dirigez une publication, une école ou une équipe, considérez le résultat comme un indice faible susceptible d’ouvrir une conversation, jamais comme une preuve qui la clôt. Enfin, si l’IA intervient dans votre écriture, la meilleure protection reste de l’indiquer.
Sources
Sources: https://www.404media.co/substackers-say-new-ai-detection-tool-is-a-witch-hunt/
Les poids de Kimi K3 sont enfin publics, et ils occupent 1,4 téraoctet
Moonshot AI a publié les poids complets et le rapport technique de Kimi K3, son modèle de 2 800 milliards de paramètres, ainsi qu’une partie de l’infrastructure nécessaire pour l’exécuter. Promesse à vérifier : 2,5 fois plus d’intelligence à puissance de calcul égale.
