Como muchos de los miembros sugirieron usar LinkedHashSet para retener el orden de la colección. U puede envolver su conjunto utilizando esta implementación.
La implementación de SortedSet se puede usar para el orden ordenado, pero para su propósito use LinkedHashSet .
También de los documentos,
"Esta implementación ahorra a sus clientes el pedido no especificado, generalmente caótico, proporcionado por HashSet, sin incurrir en el mayor costo asociado con TreeSet. Se puede utilizar para producir una copia de un conjunto que tenga el mismo orden que el original, independientemente del original. implementación del conjunto: "
Fuente : http://docs.oracle.com/javase/6/docs/api/java/util/LinkedHashSet.html