¿Hay más en la probabilidad que el bayesianismo?

Como estudiante de física, he experimentado la conferencia "Por qué soy bayesiano" tal vez media docena de veces. Siempre es lo mismo: el presentador explica con aire de suficiencia cómo la interpretación bayesiana es superior a la interpretación frecuentista supuestamente empleada por las masas. Mencionan la regla de Bayes, marginación, anteriores y posteriores.

¿Cuál es la historia real?

¿Existe un dominio legítimo de aplicabilidad para las estadísticas frecuentistas? (¿Seguramente en el muestreo o tirar un dado muchas veces debe aplicarse?)

¿Existen filosofías probabilísticas útiles más allá de "bayesiano" y "frecuentista"?

La interpretación bayesiana de la probabilidad es suficiente para fines prácticos. Pero incluso dada una interpretación bayesiana de la probabilidad, la estadística tiene más que probabilidad , porque la base de la estadística es la teoría de la decisión y la teoría de la decisión requiere no solo una clase de modelos de probabilidad sino también la especificación de un criterio de optimización para una regla de decisión. Según los criterios de Bayes, las reglas de decisión óptimas se pueden obtener a través de la regla de Bayes; pero muchos métodos frecuentistas están justificados bajo minimax y otros criterios de decisión.

"Bayesiano" y "frecuentista" no son "filosofías probabilísticas". Son escuelas de pensamiento y práctica estadística que se preocupan principalmente por cuantificar la incertidumbre y tomar decisiones, aunque a menudo se asocian con interpretaciones particulares de probabilidad. Probablemente, la percepción más común, aunque es incompleta, es la de la probabilidad como cuantificación subjetiva de la creencia frente a las probabilidades como frecuencias de largo plazo. Pero incluso estos no son realmente mutuamente excluyentes. Y es posible que no se dé cuenta de esto, pero hay Bayesianos declarados que no están de acuerdo en cuestiones filosóficas particulares sobre la probabilidad.

Las estadísticas bayesianas y las frecuentes no son ortogonales tampoco. Parece que "frecuenta" ha llegado a significar "no bayesiano", pero eso es incorrecto. Por ejemplo, es perfectamente razonable hacer preguntas sobre las propiedades de los estimadores bayesianos y los intervalos de confianza bajo muestreo repetido. Es una falsa dicotomía perpetuada, al menos en parte, por la falta de una definición común de los términos bayesiano y frecuentista (los estadísticos no tenemos a nadie a quien culpar sino a nosotros mismos por eso).

Para una discusión divertida, puntiaguda y reflexiva, sugeriría las "Objeciones a las estadísticas bayesianas" de Gelman, los comentarios y la réplica, disponibles aquí:

http://ba.stat.cmu.edu/vol03is03.php

Incluso hay algunas discusiones sobre intervalos de confianza en física IIRC. Para discusiones más profundas, puede repasar las referencias allí. Si desea comprender los principios detrás de la inferencia bayesiana, sugeriría el libro de Bernando & Smith, pero hay muchas, muchas otras buenas referencias.

Mira este artículo de Cosma Shalizi y Andrew Gelman sobre filosofía y bayesianismo. ¡Gelman es un bayesiano prominente y Shalizi es un frecuente!

Echa un vistazo también a esta breve crítica de Shalizi, donde señala la necesidad de verificar modelos y burlarse del argumento del libro holandés utilizado por algunos bayesianos.

Y por último, pero no menos importante, creo que, dado que usted es físico, puede que le guste este texto , donde el autor señala la "teoría del aprendizaje computacional" (que francamente no sé nada), que podría ser una alternativa al bayesianismo. , por lo que puedo entender (no mucho).

ps .: Si sigue los enlaces, especialmente el último y tiene una opinión sobre el texto (y las discusiones que siguieron al texto en el blog del autor) )

ps.2: Mi propia opinión sobre esto: Olvídate de la cuestión de la probabilidad objetiva frente a la subjetiva, el principio de probabilidad y el argumento sobre la necesidad de ser coherente. Los métodos bayesianos son buenos cuando le permiten modelar bien su problema (por ejemplo, usar un previo para inducir unimodal posterior cuando hay una probabilidad bimodal, etc.) y lo mismo es cierto para los métodos frecuentas. Además, olvídate de los problemas con el valor p. Quiero decir, el valor p apesta, pero al final son una medida de incertidumbre, en el espíritu de cómo Fisher lo pensó.

Para mí, lo importante del bayesianismo es que considera que la probabilidad tiene el mismo significado que aplicamos intuitivamente en la vida cotidiana, es decir, el grado de plausibilidad de la verdad de una proposición. Muy pocos de nosotros realmente utilizamos la probabilidad para significar estrictamente una frecuencia de largo plazo en el uso diario, aunque solo sea porque a menudo estamos interesados ​​en eventos particulares que no tienen una frecuencia de largo plazo, por ejemplo, ¿cuál es la probabilidad de que las emisiones de combustibles fósiles estén causando un cambio climático significativo? ? Por esta razón, las estadísticas bayesianas son mucho menos propensas a interpretaciones erróneas que las estadísticas frecuentistas.

El bayesianismo también tiene marginación, antecedentes, grupos de transformación, etc. que todos tienen sus usos, pero para mí el beneficio clave es que la definición de probabilidad es más apropiada para el tipo de problemas que quiero abordar.

Eso no hace que las estadísticas bayesianas sean mejores que las estadísticas frecuentistas. Me parece que las estadísticas frecuentistas se adaptan bien a los problemas en el control de calidad (donde se tienen muestras repetidas de las poblaciones) o donde se han diseñado experimentos, en lugar del análisis de los datos recopilados previamente (aunque eso está más allá de mi experiencia, por lo que es solo intuición).

Como ingeniero, es una cuestión de "caballos para cursos" y tengo ambos conjuntos de herramientas en mi caja de herramientas y las uso regularmente.

Existen sistemas o filosofías de probabilidad no bayesianos: baconiano y pascaliano, por ejemplo, si te interesa la epistemología y la filosofía de la ciencia, podrías disfrutar los debates; de lo contrario, sacudirás la cabeza y concluirás que, de hecho, la interpretación bayesiana es todo lo que hay

Para buenas discusiones,

• Cohen, LJ Una introducción a la filosofía de inducción y probabilidad (Clarendon Press; Oxford University Press, Oxford Nueva York, 1989)
• Schum, DA Los fundamentos probatorios del razonamiento probabilístico (Wiley, Nueva York, 1994).