La entropía total en realidad aumenta, ya que la nube molecular se encoge bajo la gravedad.
Puede parecer que a medida que las moléculas se acercan, están más ordenadas, lo que significa menos entropía. Sin embargo, esa es solo una parte del proceso. La segunda parte (importante) es: cuando las moléculas están más cerca, también tienen mayor energía cinética (ya que descendieron a un potencial gravitacional más bajo). Entonces el gas se está calentando a medida que se encoge.
El aumento de la temperatura del gas está aumentando su entropía, porque las moléculas ocupan más espacio de momento. Este aumento de la entropía a través de la temperatura es mayor que la disminución de la entropía a través de la contracción misma.
Más tarde, el gas condensado caliente (o planeta caliente) irradia el calor al espacio y se enfría. Terminas con un planeta frío que de hecho tiene una entropía más baja que la nube de gas original, porque ya no está caliente. Pero el aumento de la entropía fue llevado por los fotones radiados. Entonces, en total, la entropía del universo aumentó (los fotones irradiados están en algún lugar).
Puede encontrar una discusión más detallada sobre este tema en la excelente página web de John Baez o aquí .