Estadísticas y Big Data

¿Es el término "pérdida" sinónimo de "error"? ¿Hay alguna diferencia en la definición? Además, ¿cuál es el origen del término "pérdida"? NB: La función de error mencionada aquí no debe confundirse con el error normal.

31 loss-functions 

Leí sobre dos versiones de la función de pérdida para regresión logística, ¿cuál de ellas es correcta y por qué? De Machine Learning , Zhou ZH (en chino), con :β=(w,b) and βTx=wTx+bβ=(w,b) and βTx=wTx+b\beta = (w, b)\text{ and }\beta^Tx=w^Tx +b l(β)=∑i=1m(−yiβTxi+ln(1+eβTxi))(1)(1)l(β)=∑i=1m(−yiβTxi+ln⁡(1+eβTxi))l(\beta) = \sum\limits_{i=1}^{m}\Big(-y_i\beta^Tx_i+\ln(1+e^{\beta^Tx_i})\Big) \tag 1 De mi curso universitario, con …

31 logistic  loss-functions 

¿Por qué utilizamos unidades lineales rectificadas (ReLU) con redes neuronales? ¿Cómo mejora eso la red neuronal? ¿Por qué decimos que ReLU es una función de activación? ¿No es la función de activación de softmax para redes neuronales? Supongo que usamos ambos, ReLU y softmax, así: neurona 1 con salida softmax …

31 neural-networks 

Leí esta página: http://neuralnetworksanddeeplearning.com/chap3.html y dijo que la capa de salida sigmoidea con entropía cruzada es bastante similar a la capa de salida softmax con log-verosimilitud. ¿Qué sucede si uso sigmoide con log-verosimilitud o softmax con entropía cruzada en la capa de salida? ¿está bien? porque veo que solo hay …

31 neural-networks  maximum-likelihood  softmax 

En casi todo el trabajo de análisis que he realizado utilizo: set.seed(42) Es un homenaje a la Guía del autoestopista galáctico . Pero me pregunto si estoy creando sesgo al usar la misma semilla una y otra vez.

31 random-generation 

Entiendo lo que es un posterior, pero no estoy seguro de lo que significa este último. ¿Cómo son los 2 diferentes? Kevin P. Murphy indicó en su libro de texto, Aprendizaje automático: una perspectiva probabilística , que es "un estado de creencia interna". ¿Qué significa eso realmente? Tenía la impresión …

31 posterior  definition 

Creo que R puede tomar mucho tiempo generar gráficos cuando hay millones de puntos presentes, lo que no es sorprendente dado que los puntos se trazan individualmente. Además, tales tramas a menudo son demasiado desordenadas y densas para ser útiles. Muchos de los puntos se superponen y forman una masa …

31 r  data-visualization 

Si la probabilidad conjunta es la intersección de 2 eventos, ¿no debería la probabilidad conjunta de 2 eventos independientes ser cero ya que no se cruzan en absoluto? Estoy confundido.

30 probability  joint-distribution 

Quiero decir que algunas de esas variables están fuertemente correlacionadas entre sí. ¿Cómo / por qué / en qué contexto los definimos como variables independientes ?

30 regression  terminology  predictor 

Una red neuronal aprende las características de un conjunto de datos como un medio para lograr algún objetivo. Cuando esté hecho, podemos querer saber qué aprendió la red neuronal. ¿Cuáles fueron las características y por qué le importaban? ¿Alguien puede dar algunas referencias sobre el cuerpo de trabajo relacionado con …

30 neural-networks  deep-learning 

A menudo veo que las personas crean nuevas funciones basadas en las funciones existentes en un problema de aprendizaje automático. Por ejemplo, aquí: https://triangleinequality.wordpress.com/2013/09/08/basic-feature-engineering-with-the-titanic-data/ las personas han considerado el tamaño de la familia de una persona como una nueva característica, basada sobre el número de hermanos, hermanas y padres, que …

30 machine-learning  feature-engineering 

Entiendo cómo obtenemos 3.5 como el valor esperado para lanzar un dado de 6 lados. Pero intuitivamente, puedo esperar que cada cara tenga la misma probabilidad de 1/6. Entonces, ¿no debería ser el valor esperado de lanzar un dado cualquiera de los números entre 1-6 con igual probabilidad? En otras …

30 expected-value  terminology  history 

Estoy intentando escribir una serie de publicaciones de blog sobre valores p y pensé que sería interesante volver a donde comenzó todo, que parece ser el artículo de Pearson de 1900. Si está familiarizado con ese documento, recordará que esto cubre las pruebas de bondad de ajuste. Pearson es un …

30 p-value  history  ronald-fisher 

Mi pregunta surge de este comentario en una publicación de blog de Andrew Gelman en la que aboga por el uso de intervalos de confianza del 50% en lugar de intervalos de confianza del 95%, aunque no sobre la base de que se estimen de manera más sólida: Prefiero intervalos …

30 confidence-interval  assumptions  robust 

Deje y ser procesos de ruido blanco. ¿Podemos decir que es necesariamente un proceso de ruido blanco?b t c t = a t + b tatata_tbtbtb_tct=at+btct=at+btc_t=a_t+b_t

30 time-series  econometrics  white-noise