Pular para o conteúdo

Calculadora de entropia de Shannon

Converta contagens ou probabilidades em bits e contribuições por categoria.

Distribuição

Processado no navegador.

Insira 2–100 valores não negativos separados por espaço, vírgula ou ponto e vírgula.

Resultado

Insira uma distribuição e calcule.

Como usar

Escolha Contagens para frequências ou Probabilidades para lista que já soma um. Insira 2–100 valores. As posições seguem a ordem. O exemplo claro 10,20,30 executa diretamente; o primeiro foco apaga uma vez e mantém o modo.

Cálculo

Contagens são divididas pelo total. H=−Σp log₂p e 0 log 0 vale 0. Cada p e contribuição aparece. O máximo é log₂(k), e a entropia normalizada é H/log₂(k).

Exemplos

10,20,30 geram 1/6,1/3,1/2 e H≈1,46 bit; máximo de três≈1,58. Quatro valores iguais dão 2 bits. 0,5/0,25/0,25 dão 1,5 bit.

Interpretação

Valor maior significa distribuição mais uniforme no modelo, não categoria melhor ou diferença significativa. Compare definições e coletas compatíveis. Categorias zero mudam máximo e normalização.

Limites

Negativos, infinitos e todos zeros são recusados. Probabilidades somam um; use Contagens para normalizar pesos. Não há correção de viés, intervalo ou teste. Amostras pequenas podem enviesar.

Dúvidas

A base é 2 e a unidade bits. Isso não garante senha forte, segurança criptográfica ou aleatoriedade de texto. Copiar exporta o texto visível sem guardar ou enviar entradas.