Actualización para mayor claridad:
Para la parte visible de una galaxia independiente, todas las estrellas se pueden medir para orbitar el núcleo de esa galaxia. Por lo tanto, si quisiera medir el mayor alcance en este nivel simplificado, sería muy fácil. El problema es que hay mucha masa que no son estrellas y que es materia oscura. Algunos de ellos están tan lejos, que puede ser imposible calcular lo que está orbitando.
Si lee el documento, verá que eligieron un límite más allá del cual el efecto de la masa insignificante más allá no era relevante para este cálculo.
Una galaxia puede considerarse como una esfera aplanada, en lo que respecta a la masa. Las estrellas, al menos para las galaxias espirales, tienden a estar en un plano, pero hay una masa en órbita alrededor del centro común en todos los planos. Entonces, no hay un punto de inicio, solo hay una necesidad de decidir qué tan lejos queremos decir que la galaxia se extiende.
Para la Vía Láctea y Andrómeda, se ha tomado una decisión que es la misma para ambos (la decisión exacta no parece haber sido publicada para este documento, pero mientras sea consistente, las masas relativas serán correctas)
Para las galaxias que están colisionando o cerca unas de otras, es mucho más difícil: ¿calculan a qué galaxia pertenece una estrella por la dirección de su movimiento? Las estrellas pueden cambiar de una a la otra. De la página de la Vía Láctea de Wikipedia:
Alrededor del disco galáctico hay un halo galáctico esférico de estrellas y cúmulos globulares que se extiende más hacia el exterior, pero está limitado en tamaño por las órbitas de dos satélites de la Vía Láctea, las Grandes y Pequeñas Nubes de Magallanes, cuyo acercamiento más cercano al centro galáctico es aproximadamente 180,000 ly (55 kpc). [51] A esta distancia o más allá, las nubes de Magallanes interrumpirían las órbitas de la mayoría de los objetos de halo. Por lo tanto, tales objetos probablemente serían expulsados de la vecindad de la Vía Láctea.
tl; dr - es una decisión bastante arbitraria :-)