Registro de probabilidad vs producto de probabilidades

De acuerdo con este artículo de Wikipedia , uno puede representar el producto de las probabilidades x⋅ycomo -log(x) - log(y)hacer que el cálculo sea más computacionalmente óptimo. Pero si intento un ejemplo, diga:

p1 = 0.5
p2 = 0.5
p1 * p2 = 0.25
-log(p1) - log(p2) = 2

p3 = 0.1
p4 = 0.1
p3 * p4 = 0.01
-log(p3) - log(p4) = 6.64

El producto de las probabilidades p1y p2es mayor que el de p3y p4, pero la probabilidad logarítmica es menor.

¿Cómo?

probability logarithm arithmetic

— mono espacial
fuente

Que pasa Probabilidades más pequeñas serán dar valores más grandes porque

aumenta de

cuando

hacia

como

- \log p

$-\log p$

0

$0$

p = 1

$p=1$

\infty

$\infty$

p \to 0

$p \to 0$

— Dilip Sarwate

(+1) ¿Por qué votar a favor? Creo que esta es una pregunta bien escrita sobre el tema, aunque muy elemental.

— Juho Kokkala

@DilipSarwate mi problema no es con la parte matemática, sino con esta forma particular de representar probabilidades. Tal vez es solo una cuestión de sentirse cómodo con eso.

— spacemonkey

Me temo que has entendido mal lo que pretende el artículo. Esto no es una gran sorpresa, ya que está algo poco claro escrito. Están sucediendo dos cosas diferentes.

El primero es simplemente trabajar en la escala logarítmica.

Es decir, en lugar de " " (cuando tienes independencia), se puede escribir " ". Si necesita la probabilidad real, puede exponer al final para volver : $p_{AB} = p_A\cdot p_B$ $\log(p_{AB}) = \log(p_A)+ \log(p_B)$ $p_{AB}$ $\qquad p_{AB}=e^{\log(p_A)+ \log(p_B)}\,,$ pero si fuera necesario, la exponenciación normalmente se dejaría al último paso posible. Hasta aquí todo bien.

La segunda parte es reemplazar con . Esto es para que trabajemos con valores positivos. $\log p$ $-\log p$

Personalmente, realmente no veo mucho valor en esto, especialmente porque invierte la dirección de cualquier orden ( es monotónico creciente, así que si , entonces ; esto el orden se invierte con ). $\log$ $p_1<p_2$ $\log(p_A)< \log(p_2)$ $-\log p$

$\log p$

$s_i = -\log(p_i)$ $s$ $p_{AB}=e^{-[s_A+ s_B]}\,.$

— Glen_b -Reinstate a Monica
fuente

+1 "Piensa en la probabilidad de registro negativa como una escala de" rareza "- cuanto mayor es el número, más raro es el evento"

— Zhubarb