Estadísticas y Big Data

A veces veo que la gente usa la aproximación de Taylor de la siguiente manera: E(ex)≈E(1+x)E(ex)≈E(1+x)E(e^x)\approx E(1+x) Sé que la aproximación de Taylor funciona para ex≈1+xex≈1+xe^x \approx 1+x Pero no está claro para mí que podamos hacer la aproximación dentro del operador de expectativas. Intuitivamente, supongo que funciona si "la …

8 expected-value  approximation 

Soy nuevo en ML. Me informaron que la normalización L2 de la regresión de cresta no castiga la intercepción . Como en la función de costo: El término de normalización L2 solo suma de a , no de a . También leí eso:θ0θ0\theta_{0}∇θJ(θ)=12∑i=1m(hθ⃗ (x(i))−y(i))2+λ∑j=1nθ2j∇θJ(θ)=12∑i=1m(hθ→(x(i))−y(i))2+λ∑j=1nθj2 \nabla_{\theta}J(\theta)=\frac{1}{2}\sum_{i=1}^{m}(h_{\vec \theta}(x^{(i)})-y^{(i)})^2+\lambda\sum_{j=1}^{n}{\theta_{j}^{2}} λ∑nj=1θ2jλ∑j=1nθj2\lambda\sum_{j=1}^{n}{\theta_{j}^{2}}j=1j=1j=1nnnj=0j=0j=0nnn en la mayoría …

8 machine-learning  ridge-regression 

Este problema ha surgido en mi investigación: supongamos que son distribuciones exponenciales (ED) con una media y que sea ​​un número no negativo. ¿Es cierto que Esto pasa la comprobación de cordura, ya que el valor esperado de ambos lados es igual a , y si dejamos , entonces el …

8 distributions  mathematical-statistics  poisson-distribution  exponential  saddlepoint-approximation 

Tengo un conjunto de datos con 338 predictores y 570 instancias (desafortunadamente no se puede cargar) en el que estoy usando el Lazo para realizar la selección de funciones. En particular, estoy usando la cv.glmnetfunción de la glmnetsiguiente manera, donde mydata_matrixhay una matriz binaria de 570 x 339 y la …

8 r  classification  lasso  glmnet 

El aprendizaje profundo es un tema cada vez más candente en la actualidad. ¿Cuáles son los supuestos principales que hacen que el aprendizaje profundo carezca de algunos conjuntos de datos? Ej: ¿Funciona bien en conjuntos de datos ruidosos?

8 machine-learning  mathematical-statistics  deep-learning 

En el aprendizaje por refuerzo, ¿es una política siempre determinista, o es una distribución de probabilidad sobre las acciones (de las cuales tomamos muestras)? Si la política es determinista, ¿por qué no es la función de valor, que se define en un estado dado para una política dada siguiente manera?ππ\pi …

8 reinforcement-learning  deterministic-policy  stochastic-policy 

Es bastante intuitivo que la mayoría de las topologías / arquitecturas de redes neuronales no son identificables. Pero, ¿cuáles son algunos resultados bien conocidos en el campo? ¿Existen condiciones simples que permiten / evitan la identificabilidad? Por ejemplo, todas las redes con funciones de activación no lineales y más de …

8 neural-networks  conv-neural-network  rnn  identifiability 

Digamos que calculo la siguiente regresión lineal multivariada y=β0 0+β1X1+β2X2+β3X3+β4 4X4 4+ ϵy=β0 0+β1X1+β2X2+β3X3+β4 4X4 4+ϵ y = \beta_0 +\beta_1 x_1 +\beta_2 x_2+\beta_3x_3+\beta_4x_4 + \epsilon ¿Cómo puedo probar eso? β1=β2=β3β1=β2=β3\beta_1=\beta_2=\beta_3? Sé que para probar si β1=β2β1=β2\beta_1=\beta_2simplemente puede construir una prueba con ZZZZ=β1−β2se2β1+se2β2−−−−−−−−−√Z=β1−β2seβ12+seβ22 Z = \frac{\beta_1-\beta_2}{\sqrt{se_{\beta_1}^2+se_{\beta_2}^2}} ¿Existe un análogo para las …

8 regression  hypothesis-testing  multiple-regression 

Estoy tratando de entender cuál es la diferencia entre el recocido simulado y la ejecución de múltiples algoritmos codiciosos de escalada. Según tengo entendido, el algoritmo codicioso llevará la puntuación a un máximo local, pero si comenzamos con múltiples configuraciones aleatorias y aplicamos codicioso a todos ellos, tendremos múltiples máximos …

8 machine-learning  optimization  algorithms 

A nivel de modelo, para evaluar la contribución / importancia del predictor podemos usar: Técnicas específicas del modelo: por ejemplo, pureza (índice de Gini) para un modelo basado en árboles, coeficientes del modelo cuando corresponda, etc. Técnicas independientes del modelo, por ejemplo, importancia de la característica de permutación, dependencia parcial, …

8 machine-learning  predictive-models 

El estudio que estoy revisando informa que la altura media de 20 sujetos es de 1.70 metros con una desviación estándar de 0.0. ¿Significa esto que los 20 son exactamente 1.70 metros? ¿O es esto un error de informe?

8 standard-deviation  reporting 

Esta pregunta parece lo suficientemente fundamental como para estar convencido de que se ha respondido aquí en alguna parte, pero no la he encontrado. Entiendo que si la variable dependiente en una regresión se distribuye normalmente, la probabilidad máxima y los mínimos cuadrados ordinarios producen las mismas estimaciones de parámetros. …

8 regression  maximum-likelihood  least-squares  blue 

Cerrada . Esta pregunta necesita estar más centrada . Actualmente no está aceptando respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que se centre en un problema solo editando esta publicación . Cerrado hace 2 años . Soy un Bayesiano de mente simple que se siente cómodo en el …

8 bayesian  references  frequentist 

¿Puede alguno de nuestros expertos de Monte Carlo explicar la expectativa "inesperada" al final de esta respuesta ? Resumen ex post facto de la otra pregunta / respuesta: si son variables aleatorias IID y las expectativas , entonces un argumento de simetría simple muestra que , pero un experimento de …

8 probability  simulation  expected-value  monte-carlo 

¿Conoces una referencia o nombre para la siguiente forma de investigar si una técnica de modelado compleja TTT es parcial? Aplicar TTTal conjunto de datos original. Mida su rendimiento (por ejemplo, R cuadrado en la configuración de regresión). Permuta aleatoriamente la variable de respuesta para obtener un nuevo conjunto de …

8 terminology  bias  validation  permutation-test