∝exp(−x2) . El OP luego pregunta "Si la humanidad se olvidara de la distribución normal, ¿de qué manera sería redescubierta"? Esta es una pregunta completamente diferente. Creo que una respuesta relevante aquí es aquella que 1) toma prestada la perspectiva de la ciencia moderna 2) proporciona una respuesta que es diferente de la respuesta histórica más frecuente, también conocida como la Teoría del límite central.
En mecánica cuántica, teoría de la información y termodinámica, la entropía cuantifica el estado de un sistema. En estos campos, el estado cuántico es, de hecho, totalmente aleatorio o estocástico. Contrasta esto con la mecánica clásica. En la mecánica clásica, los estados son fijos, pero nuestra observación es imperfecta debido a la contribución de cientos o millones de factores de influencia no observados: este tipo de resultado da lugar a la CLT.
En mecánica cuántica, utilizamos la probabilidad bayesiana para cuantificar nuestra creencia sobre el estado del sistema. En ese sentido, se han presentado y ajustado las pruebas de que la variable aleatoria gaussiana o normal tiene una entropía máxima entre todas las variables aleatorias con media finita o desviación estándar.
https://www.dsprelated.com/freebooks/sasp/Maximum_Entropy_Property_Gaussian.html
https://en.wikipedia.org/wiki/Differential_entropy
http://bayes.wustl.edu/etj/articles/brandeis.pdf