Énergie, Entropie et Information

La seconde loi de la thermodynamique, qui traite de l’irréversibilité et fait que la théorie est si particulière, est habituellement considérée comme empirique. Quant à la définition de l’équilibre comme un attracteur elle doit être postulée. Dans cet article, on montre que les deux sont en fait déjà contenus, même s’ils sont cachés, dans les principes fondamentaux du néopositivisme qui sont largement acceptés et communs à tous les domaines des sciences. En particulier, de la définition de l’information comme une vérité qui ne peut provenir que d’une observation mais ne peut être redondante, on obtient l’inégalité de Clausius.

Le lien entre information et énergie introduit l’observateur et ces connaissances dans la compréhension d’une grandeur fondamentale de la physique. Pour en rendre compte, deux approches concurrentes sont souvent confondues. La première, basée sur l’inégalité de Clausius et les résultats mathématiques de Shannon est très robuste, tandis que la seconde basée sur l’idée simple que l’information nécessite un support matériel (des bits de donnée) est considérée aujourd’hui comme plus physique et prévaut.

L’énergie n’a pas de définition, sauf celle donnée par un principe de conservation qui fondamentalement revient à la définir comme appartenant à une liste ouverte dont le cardinal est inconnu. L’entropie, identifiée par Shannon comme étant une information qui nous fait défaut, n’en a que trop. Il s’ensuit une interprétation instable et hésitante de leur lien.

La thermodynamique, la science des changements de forme de l’énergie, est phénoménologique. Toute ses lois sont induites de l’observation. Depuis son origine, le concept d’énergie est lié aux connaissances de l’observateur, à l’information dont il dispose: où regarder et avec quels instruments. La thermodynamique ne s’occupe que du monde sensible. Elle est aristotélicienne. Mais cela est perturbant si on considère que la raison nous donne accès aux propriétés intrinsèques des choses, au monde intelligible de Platon, celui qui est au delà du monde sensible et qui existe indépendamment de nous. Cela est perturbant si l’on a une conception purement platonicienne de la science. D’où l’approche de la mécanique statistique (“Le fondement rationnel de la thermodynamique”, J.W. Gibbs). C’est le premier mouvement de pendule des idées, dont les oscillations continuent jusqu’à aujourd’hui, car malheureusement la mécanique statistique introduit beaucoup d’incohérences principalement dues à l’hypothèse ergodique. Heureusement, elles sont toutes résolues par la théorie de l’information de Shannon. Hélas, l’information est trop aristotélicienne et trop conceptuelle. Par chance, le principe de Landauer la rend plus “physique”. C’est pour l’instant la dernière tentative pour ramener les notions d’énergie et d’information vers ce que l’on considère le bon côté de la science, celui de Platon. Le principe de Landauer est maintenant considéré comme une loi fondamentale de la physique. Fâcheusement, on montre que ce principe n’en est pas un.

Le “principe” de Landauer prétend qu’effacer un bit d’information dissipe nécessairement au moins Tln2 de chaleur dans l’environnement, rendant ainsi également thermodynamiquement irréversible une opération booléenne logiquement irréversible. Il est couramment admis que ce résultat est un principe général de physique qui établit de façon définitive le lien entre information et énergie. Ici, nous montrons que ce résultat ne peut pas être général et qu’en fait il provient: (1) d’une confusion entre irréversibilités logique et thermodynamique ainsi qu’entre états logique et thermodynamique, qui n’est pas sans rappeler le paradoxe classique de Gibbs sur le mélange de deux volumes d’un même gaz; et (2) de deux contraintes facultatives imposées à la procédure d’effacement. La clarification de ces points, permet de dissocier les deux notions d’irréversibilité, d’invalider le résultat de Landauer comme étant un principe général de physique; et d’ouvrir la porte à des implémentations matériels permettant à l’effacement de suivre un chemin thermodynamiquement réversible, ou pour le moins quasi-statique.

Bien que la théorie de l’information résolve les incohérences (connues sous la forme d’énigmes) de l’approche traditionnelle de la thermostatistique, sa place dans la littérature correspondante n’est pas celle qu’elle mérite. Cela est interprété comme étant dû à des raisons épistémologiques plutôt que scientifiques: la subjectivité introduite en physique est perçue comme un problème. Cet article tente d’exposer et de clarifier où exactement réside cette subjectivité: dans la représentation de la réalité et l’inférence probabiliste. Deux aspects qui sont depuis longtemps intégrés à la pratique scientifique et qui ne devraient effrayer personne, mais qui avec la théorie de l’information deviennent explicites.

En théorie de la relativité restreinte, l’énergie se trouve sous deux formes: énergie cinétique et masse au repos. L’énergie potentielle d’un corps est en fait stockée sous forme de masse, l’énergie d’interaction aussi, la température ne l’est pas. L’information acquise au sujet d’un système dynamique peut être potentiellement utilisée pour en extraire utilement de l’énergie. D’où le “principe d’équivalence masse-énergie-information” qui a été récemment proposé.

Dans cet article, il est rappelé en premier lieu que pour un système constitué d’entités indépendantes à température constante, l’énergie interne est également constante. De sorte que l’énergie impliquée dans une variation d’entropie (T ΔS) diffère d’un changement d’énergie potetielle stockée ou restituée et ne peut être associée à aucune variation de la masse du système, même si elle est exprimée en terme de quantité d’information. Ce débat donne l’opportunité d’approfondir la notion d’entropie vue comme une quantité d’information; de souligner la différence entre irréversibilité logique (une propriété qui dépend de deux états) et irréversibilité thermodynamique (une propriété qui dépend du chemin utilisé pour les joindre); et de rappeler la nature du lien entre énergie et information qui est dynamique.

Le principe de Landauer stipule que l’irréversibilité logique d’une opération, telle qu’effacer un bit, quelle que soit son implémentation physique, implique nécessairement son irréversibilité thermodynamique.

Dans cet article, un contre exemple très simple d’implémentation physique (qui utilise une relation surjective entre les états logiques et thermodynamiques) est présentée. Elle permet d’effacer un bit d’une manière thermodynamiquement quasi-statique, c’est à dire qui tendrait vers la réversibilité si le processus était conduit suffisament lentement.

En mécanique statistique, ce que l’on appelle généralement l’approximation de Stirling pour N! est en fait une approximation de la formule exacte de Stirling. Dans cet article, je montre que le terme qu’on laisse généralement tomber est en fait celui qui tient compte des fluctuations.

En utilisant la formule exacte, nous sommes alors obligés de les réintroduire dans la résolution de certains problèmes très classiques comme celui du paradoxe de l’extensivité de l’entropie, ou celui du paradoxe de Gibbs concernant le mélange de deux volumes d’un même gaz.

Introduire la distribution de Boltzmann très tôt dans un cours de thermodynamique statistique (dans l’esprit de ce que fait Feynmann) présente beaucoup d’avantages didactiques, en particulier celui de pouvoir démontrer très facilement la formule de Gibbs pour l’entropie. Dans cette note, je donne une démonstration très courte qui part du postulat fondamental de la mécanique statistique et qui utilise des calculs élémentaires accessibles à des étudiants de premier cycle.

Téléchargement (en anglais): PDF

Encore aujourd’hui le concept d’entropie est souvent perçu comme très obscur. La difficulté majeure est analysée ici comme étant due à la subjectivité et l’anthropocentrisme du concept qui nous empêche de l’envisager avec le recul suffisant. Cepandant, il est souligné que les incohérences de certaines présentations ou certaines idées préconçues n’aident pas. Elles sont de trois sortes : 1. la thermodynamique axiomatique; 2. les solutions incohérentes de certains paradoxes; 3. la répugnance des physiciens à accepter la simplification que permet la théorie de l’information.