Hay dos enfoques principales para entender esta pregunta. El primero (y creo que el más exitoso) es la literatura sobre sesgos cognitivos (ver este enlace Menos incorrecto ).
Se ha escrito mucho sobre este tema y sería demasiado presuntuoso resumirlo aquí. En general, esto solo significa que la maquinaria cognitiva que los humanos están dotados a través del proceso evolutivo emplea muchas heurísticas y atajos para tomar decisiones de supervivencia de manera más eficiente. Estas decisiones de supervivencia se aplicaron principalmente a entornos ancestrales a los que rara vez nos enfrentamos, por lo que se espera que aumente la frecuencia con la que enfrentamos escenarios en los que nuestras heurísticas fallan.
Los humanos, por ejemplo, son excelentes para generar creencias. Si plantear una nueva creencia cuesta muy poco, pero no emplear una creencia que hubiera llevado a la supervivencia tiene un alto costo (incluso si la creencia es en general incorrecta), entonces uno esperaría ver mucha racionalización y poca evidencia de barreras para creer proposiciones (que es lo que vemos con los humanos). También obtienes comportamientos como la coincidencia de probabilidad por razones similares.
Podríamos seguir describiendo todas las formas fascinantes en que nos desviamos de la toma de decisiones óptimas. Consulte el libro reciente de Kahneman Thinking, Fast and Slow y el libro de Dan Ariely Predictably Irrational para ver cuentas populares y legibles con muchos ejemplos. Recomiendo leer algunas de las secuencias en LessWrong para una discusión más basada en principios del sesgo cognitivo, y muchas revisiones interesantes de literatura académica con respecto a los pasos que uno puede tomar para evitar estos sesgos en ciertas circunstancias.
El otro enfoque para este problema es (creo) mucho más tenue. Esta es la noción de que la probabilidad en sí misma no es la teoría normativa correcta para lidiar con la incertidumbre. No tengo tiempo para anotar algunas fuentes para esto ahora, pero actualizaré mi respuesta más adelante con un poco de discusión sobre esta vista.