¿Alguien puede ayudar a explicar la diferencia entre independiente y aleatorio?

21

En estadística, ¿independiente y aleatorio describen las mismas características? ¿Cual es la diferencia entre ellos? A menudo nos encontramos con la descripción como "dos variables aleatorias independientes" o "muestreo aleatorio". Me pregunto cuál es la diferencia exacta entre ellos. ¿Alguien puede explicar esto y dar algunos ejemplos? por ejemplo, proceso no independiente pero aleatorio?

distributions sampling randomness

— tiantianchen
fuente

Aquí hay dos conceptos distintos (en un nivel no muy profundo) fusionados. Las observaciones "independientes" en el sentido generaron independientemente, y las "variables independientes" escribieron sus distribuciones.

— ttnphns

3

Esta es una pregunta extraña, porque si consultara definiciones formales de "variable aleatoria" e "independiente", que es lo que parece sugerir "en estadística", descubriría que tienen poco en común.

— whuber

@ttnphns, sí, creo que estaba más confundido sobre el término "observaciones generadas independientemente" con "generado aleatoriamente". En el muestreo, a menudo escuchamos un muestreo aleatorio (simple), lo que me hace sentir como muestras independientes. Supongo que si realmente queremos combinar ambas características al describir un método de muestreo, debería ser: ¿la selección de observaciones no depende la una de la otra (= independientemente) y la probabilidad de selección de una observación es conocida (= aleatoriamente)?

— tiantianchen

1

Si verificamos la definición de independencia de wiki: "En teoría de probabilidad, dos eventos son independientes, estadísticamente independientes o estocásticamente independientes si la ocurrencia de uno no afecta la probabilidad del otro", la dependencia de dos observaciones debería basarse sobre cómo se generan / seleccionan, en lugar de cómo se ven en los datos. Entonces, las dos observaciones idénticas en el caso que mencioné anteriormente aún deberían ser independientes.

— tiantianchen

2

No confunda la explicación heurística al comienzo de cualquier entrada de Wikipedia con una definición. La definición se da bajo el encabezado "definición" en el mismo artículo . Es el que se ofrece en la respuesta de Tim aquí.

— whuber

35

Trataré de explicarlo en términos no técnicos: una variable aleatoria describe el resultado de un experimento; no puede saber de antemano cuál será el resultado exacto, pero tiene cierta información: sabe qué resultados son posibles y sabe, para cada resultado, su probabilidad.

Por ejemplo, si arroja una moneda justa, entonces no sabe de antemano si obtendrá cabeza o cola, pero sabe que estos son los posibles resultados y sabe que cada uno tiene un 50% de posibilidades de que ocurra.

Para explicar la independencia, debes lanzar dos monedas justas. Después de lanzar la primera moneda, sabes que para el segundo lanzamiento las probabilidades de la cabeza siguen siendo del 50% y también para la cola. Si el primer lanzamiento no tiene influencia en las probabilidades del segundo, ambos lanzamientos son independientes. Si el primer lanzamiento influye en las probabilidades del segundo lanzamiento, entonces son dependientes.

Un ejemplo de lanzamientos dependientes es cuando pega las dos monedas juntas.

3

Otro par de variables dependientes sería "si tienes cara" y "si tienes cola". Ambos son aleatorios pero no son independientes entre sí.

— user253751

3

@immibis O tira un dado justo, escribe el valor. luego gírelo una vez más y multiplique el valor con el valor escrito. Este valor es aleatorio, pero depende del primer lanzamiento.

— Crowley

8

Aleatorio se relaciona con la variable aleatoria , e independiente se relaciona con la independencia probabilística. Por independencia queremos decir que observar una variable no nos dice nada sobre la otra, o en términos más formales, si e son dos variables aleatorias, entonces decimos que son independientes si $X$ $Y$

{pags}_{X, Y} (X, y) = {pags}_{X} (X) {pags}_{Y} (y)

$p_{X,Y}(x, y) = p_X(x)\,p_Y(y)$

además

mi (X Y) = mi (X) mi (Y)

$E(XY) = E(X)E(Y)$

y su covarianza es cero. La variable aleatoria depende de si se puede escribir en función de $Y$ $X$ $X$

Y = F (X)

$Y = f(X)$

Así que en este caso es aleatorio y depende de . $Y$ $X$

Llamar al proceso "no independiente" es bastante engañoso, ¿independiente de qué? Supongo que quisiste decir que hay algunas variables aleatorias independientes e idénticamente distribuidas (verifica aquí o aquí ) que provienen de algún proceso. Por independiente queremos decir aquí que son independientes entre sí. Hay procesos que producen variables aleatorias dependientes, p. Ej. $X_1,\dots,X_k$

X_{yo} = X_{yo - 1} + ε

$X_i = X_{i-1} + \varepsilon$

donde es un poco de ruido aleatorio. Obviamente, en tal caso, depende de , pero también es aleatorio. $\varepsilon$ $X_i$ $X_{i-1}$

— Tim
fuente

¿Qué significa

si X es una variable aleatoria? Creo que estás confundiendo RV y eventos: dos RV X e Y son independientes si los eventos

y

son independientes para todos los r, s

P (X)

$P(X)$

P (X \leq r)

$P(X\leq r)$

P (Y \leq s)

$P(Y\leq s)$

— Matthew Towers

Entonces dos variables aleatorias continuas son independientes.

— Matthew Towers el

@m_t_ Realmente no creo que discutir la notación conduzca a ningún lado (ver, por ejemplo, en.wikipedia.org/wiki/… )

— Tim

1

@m_t_ esto es un corte de cabello, vea stats.stackexchange.com/questions/16321/… o math.ucsd.edu/~napkaria/crypto/handouts/IndepDepRV.pdf

— Tim

2

@tiantianchen al revés: si tiene variables aleatorias iid, puede construir la función de probabilidad multiplicando los pdf individuales porque son independientes.

— Tim

1

Las variables se usan en todos los campos de las matemáticas. Las definiciones de independencia y aleatoriedad de una variable se aplican unilateralmente a todas las formas de las matemáticas, no solo a las estadísticas.

Por ejemplo, los ejes X e Y en geometría euclidiana bidimensional representan variables independientes, sin embargo, sus valores no (generalmente) se asignan al azar.

Dos variables dadas pueden ser aleatorias, o independientes (una de otra), o ambas, o ninguna. Las estadísticas tienden a centrarse en la aleatoriedad (más correctamente, en la probabilidad), y si dos variables son independientes o no puede tener muchas implicaciones para las probabilidades de que se observen resultados dados.

Se tiende a ver estas dos propiedades (independencia y aleatoriedad) descritas juntas al estudiar estadísticas, porque ambas son importantes para conocer y pueden influir en la respuesta a la pregunta en cuestión. Sin embargo, estas propiedades no son sinónimos, y en otros campos de las matemáticas no necesariamente ocurren juntas.

— Steve-O
fuente

Gracias. ¿Puede explicar más sobre "si dos variables son independientes puede tener muchas implicaciones para las probabilidades de que se observen resultados dados"?

— tiantianchen

3

Esta es una respuesta no estadística que aborda un sentido diferente de "independiente" que el utilizado en la pregunta. También confunde dos sentidos de "variable": uno es el matemático y el otro es la definición estadística de variable aleatoria (que definitivamente no es lo mismo que las variables en los ejes geométricos).

— Whuber

1

La noción de independencia es relativa, mientras que usted puede ser aleatorio por sí mismo. En su ejemplo, tiene "dos variables aleatorias independientes" y no necesita hablar sobre varias "muestras aleatorias".

Supongamos que lanzas un dado perfecto varias veces. El resultado es a priori aleatorio. Conociendo el pasado, no puedes predecir el número siguiente 4. Supón que genero una secuencia desde el otro lado del dado: , . Me sale . Es tan aleatorio como el primero. No puedes adivinar lo que viene después de . Pero las dos secuencias son completamente dependientes. $6,5,3,5, 4\ldots$ $6\to1$ $3\to4$ $1,2,4,2, 3\ldots$ $3$

Si uno lanza dos dados en paralelo (sin interacciones entre ellos), sus secuencias respectivas serán aleatorias e independientes.

— Laurent Duval
fuente

1

Esto puede ser un poco técnico dado el nivel de OP, pero con respecto a su afirmación "No puede ser independiente (de algo) solo (como un proceso, una secuencia)" considere lo siguiente: Cualquier variable aleatoria X, que equivale a una constante c con probabilidad uno, es independiente de "todo", incluido él mismo. Es decir, para tal X, X es independiente de X. Puede verificarlo fácilmente según la definición de independencia.

— Mark L. Stone el

X

$X$

X

$X$

X

$X$

X es independiente de sí mismo. Es decir, X es independiente de X.

— Mark L. Stone

0

Cuando tiene un par de valores cuando el primero se genera aleatoriamente y el segundo depende del primero. Por ejemplo, altura y peso de un hombre. Hay correlación entre ellos. Pero ambos son al azar.

— escarabeo
fuente

Aunque esta publicación usa las palabras "aleatorio" y "dependiente", no las define ni las distingue claramente. De hecho, parece sugerir que "aleatorio = dependiente"!

— whuber

0

El ejemplo de la moneda es una gran ilustración de una variable aleatoria e independiente, una buena manera de pensar en una variable aleatoria pero dependiente sería la siguiente carta extraída de un juego de naipes de siete mazos, la probabilidad de cualquier resultado numérico específico cambia dependiendo de las cartas previamente repartidas, pero hasta que solo quede un valor de tarjeta en el zapato, el valor de la carta que sigue será aleatorio.

— Phantombread
fuente

3

Probablemente valga la pena reemplazar la palabra "verosimilitud" por "probabilidad" aquí, ya que la verosimilitud tiene una definición técnica separada en estadística

— Silverfish

1

Una probabilidad que depende de otros eventos (a menudo eventos previos, pero a veces se basa en el conocimiento de eventos futuros o simultáneos; en realidad no hay una dirección temporal para esto) se llama probabilidad condicional . La palabra probabilidad se usa para referirse a un tipo de "probabilidad inversa" (o en el caso continuo, una densidad de probabilidad), es decir, uno calcula la probabilidad de un resultado (por ejemplo, sus datos) condicional en los parámetros de su modelo ), pero si pensamos en esto al revés, es la probabilidad de ese parámetro, dados sus datos .

— Silverfish

1

π

$π$

π = 1 / 6

$π=1/6$

-1

David Bohm en su trabajo Causality and Chance in Modern Physics (Londres: Routledge, 1957/1984) describe la causalidad, el azar, la aleatoriedad y la independencia:

"En la naturaleza, nada permanece constante. Todo está en un perpetuo estado de transformación, movimiento y cambio. Sin embargo, descubrimos que nada simplemente surge de la nada sin tener antecedentes que existían antes. Del mismo modo, nada desaparece sin dejar rastro, en la sensación de que da lugar a absolutamente nada que exista en épocas posteriores ... todo proviene de otras cosas y da lugar a otras cosas. Este principio aún no es una declaración de la existencia de causalidad en la naturaleza. Para llegar a la causalidad, el siguiente paso es observar que a medida que estudiamos los procesos que tienen lugar en una amplia gama de condiciones, descubrimos que dentro de toda la complejidad del cambio y la transformación hay relacionesque permanecen efectivamente constantes. .... En este punto, sin embargo, nos encontramos con un nuevo problema. Porque la necesidad de una ley causal nunca es absoluta. Por lo tanto, vemos que uno debe concebir la ley de la naturaleza como necesaria solo si se abstrae de las contingencias , representando factores esencialmente independientes que pueden existir fuera del alcance de las cosas que pueden ser tratadas por las leyes bajo consideración y que no se siguen necesariamente de cualquier cosa que pueda especificarse en el contexto de estas leyes. Tales contingencias conducen al azar "(pp. 1-2)

"La tendencia de las contingencias que se encuentran fuera de un contexto dado a fluctuar independientemente de los acontecimientos dentro de ese contexto ha demostrado ser tan generalizada que uno puede enunciarlo como un principio; es decir, el principio de aleatoriedad. Por aleatoriedad queremos decir solo que esta independencia conduce a la fluctuación de estas contingencias de una manera muy complicada en una amplia gama de posibilidades, pero de tal manera que los promedios estadísticos tengan un comportamiento regular y aproximadamente predecible ". (p.22)

— noumenal
fuente

3

0

$0$

1

$1$

1 / 3

$1/3$

4 / 7

$4/7$

3

Parece que está discutiendo procesos estocásticos (en el tiempo) en lugar de aleatoriedad y variables aleatorias.

— whuber

44

Creo que parte de la dificultad que tenemos para comunicarnos es que parece estar pensando en "independiente" en el sentido de una variable independiente en regresión. Aunque algunos elementos de la pregunta podrían sugerir eso, las frases "dos variables aleatorias independientes" y "muestreo aleatorio" indican lo contrario.

— whuber

1

Ni siquiera puedo decir cuál es su comprensión, porque su respuesta no proporciona definiciones. Tengo que adivinar lo que intentas decir a partir de los ejemplos y las descripciones que das. Parecen diferir de los sentidos de "aleatorio" e "independiente" en las formas que he descrito en comentarios anteriores.

— Whuber

1

Agregaría a los comentarios de @whuber que su definición que menciona variables aleatorias que se influyen entre sí puede ser engañosa. "Influencia" es un término muy fuerte que implica algún tipo de causalidad, etc., mientras que la definición formal de independencia no requiere ninguna causalidad o influencia, sino que se trata simplemente de relaciones de probabilidades conjuntas versus probabilidades individuales.

— Tim