état de « désordre » d'un système. « Selon les deux principes fondamentaux de la thermodynamique, l’énergie ne se perd jamais (1), mais, livrée à elle-même, elle se disperse toujours (2) : quand un thé refroidit, son énergie passe tout entière dans la pièce, et l’entropie de l’ensemble augmente. »
mesure de l'incertitude d'un message donné à partir de celui qui le précède. « L'entropie est nulle lorsqu'il n'existe pas d'incertitude. »