Aller au contenu

Calculateur d’entropie de Shannon

Transformez effectifs ou probabilités en bits et contributions par catégorie.

Distribution

Traitement dans le navigateur.

2 à 100 valeurs non négatives séparées par espaces, virgules ou points-virgules.

Résultat

Saisissez une distribution puis calculez.

Mode d’emploi

Choisissez Effectifs pour des fréquences ou Probabilités pour une liste totalisant déjà un. Saisissez 2–100 valeurs. Les positions suivent l’ordre. L’exemple pâle 10,20,30 est exécutable ; le premier focus l’efface une seule fois en gardant le mode.

Calcul

Les effectifs sont divisés par leur total. H=−Σp log₂p et 0 log 0 vaut 0. Chaque p et contribution apparaît. Le maximum est log₂(k), la valeur normalisée H/log₂(k).

Exemples

10,20,30 donnent 1/6,1/3,1/2 et H≈1,46 bit ; maximum à trois catégories≈1,58. Quatre valeurs égales donnent 2 bits. 0,5/0,25/0,25 donnent 1,5 bit.

Interprétation

Une entropie supérieure indique une distribution plus uniforme dans ce modèle, pas une meilleure catégorie ou une différence significative. Comparez des catégories compatibles. Ajouter des zéros modifie maximum et normalisation.

Limites

Négatifs, infinis et tout-zéro sont refusés. Les probabilités totalisent un ; utilisez Effectifs pour normaliser des poids. Aucun intervalle, test ou correction de biais. Les petits échantillons peuvent biaiser.

Questions

La base 2 donne des bits. Cela ne garantit ni mot de passe fort, sécurité cryptographique ni hasard d’un texte. La copie exporte le texte visible sans enregistrer ou envoyer les données.