Nadella : vous payez l’IA deux fois, d’abord avec votre argent, puis avec vos connaissances
Le patron de Microsoft reproche aux laboratoires d’IA d’interdire la distillation tout en s’entraînant sur les données des autres. Son « paradoxe inversé de l’information » mérite d’être compris, même si Microsoft a ses propres raisons de le promouvoir.
Satya Nadella, directeur général de Microsoft, a publié un billet de blog incisif dans lequel il accuse des laboratoires d’IA comme OpenAI et Anthropic d’un double standard : ils entraînent leurs modèles sur les données publiques du monde entier, en invoquant le « fair use » américain, tout en interdisant à tous les autres d’apprendre à partir des réponses de leurs modèles.
La pratique en question s’appelle la distillation : elle consiste à entraîner un modèle plus petit et moins coûteux sur les réponses d’un modèle plus grand, afin que l’élève absorbe une grande partie des capacités du professeur pour une fraction du prix. Les grands laboratoires l’interdisent dans leurs conditions d’utilisation, une règle qui vise surtout les entreprises chinoises d’IA accusées de copier à bas coût les modèles américains. Nadella qualifie la situation d’« ironique » : les mêmes fournisseurs qui aspirent les données du Web public, interdisent la distillation et apprennent des interactions avec leurs clients finissent par concentrer la valeur économique entre leurs propres mains, celles des exploitants de l’infrastructure, plutôt que dans les entreprises qui produisent les connaissances au départ.
Il donne un nom à cette dynamique : le « paradoxe inversé de l’information ». Selon lui, les entreprises paient l’IA deux fois. D’abord avec de l’argent, puis avec ce qu’il appelle les « résidus »les corrections, évaluations et habitudes d’utilisation produites en travaillant avec des systèmes d’IA, qui révèlent discrètement des connaissances internes à l’entreprise. « En consommant de l’intelligence, vous créez de l’intelligence », écrit-il. Les fournisseurs d’IA peuvent apprendre de l’ensemble de ces éléments et, en théorie, finir par construire des produits concurrents.
Que se joue-t-il derrière cette prise de position ? Nadella marque un point et poursuit un objectif, les deux peuvent être vrais. Le point : les connaissances circulent actuellement dans un seul sens dans l’IA, et les conditions d’utilisation réservent effectivement un traitement très différent à « nous apprenons de vous » et à « vous apprenez de nous ». L’objectif : Microsoft vend justement la solution que ce raisonnement suggère, à savoir une infrastructure où les entreprises contrôlent leurs propres données et leur propre « boucle d’apprentissage ». C’est également Microsoft qui élimine actuellement progressivement les modèles d’OpenAI et d’Anthropic de ses produits Copilot afin de réduire ses coûts. Lorsqu’un dirigeant d’entreprise fait de la philosophie, il y a généralement un tunnel de vente en annexe.
Ce que cela signifie pour vous : pour la plupart des particuliers, pas grand-chose, vos corrections dans une discussion ne sont pas des secrets commerciaux. Mais si vous utilisez l’IA au travail, le cadre proposé par Nadella est réellement utile : chaque correction que vous saisissez apprend quelque chose au fournisseur sur le fonctionnement de votre entreprise. Il vaut la peine de vérifier ce que disent réellement les abonnements d’IA de votre organisation au sujet de l’entraînement sur vos données. La plupart des offres professionnelles permettent de le refuser, et cette case à cocher compte davantage qu’il n’y paraît.
Sources
Sources: https://snscratchpad.com/posts/reverse-information-paradox/
Le nouveau guide d’OpenAI pour rédiger ses requêtes : arrêtez de trop réfléchir, décrivez simplement le résultat
OpenAI publie un guide pour rédiger des requêtes destiné aux utilisateurs ordinaires, et non aux développeurs. Quatre éléments facultatifs, quelques garde-fous et un message essentiel : dites ce que vous voulez, pas comment y parvenir.
