Para explicar lo que está sucediendo con sus apóstrofes escapados, examinaremos su segundo ejemplo (también ver comillas simples o comillas fuertes ):
$ echo '\'Hello World\''
> # expects you to continue input
Aquí, has dejado la cita pendiente, como has dicho. Ahora recorte el final y cámbielo a:
v v v
$ echo '\'Hello World # Echo two strings: '\' and 'Hello World'.
\Hello World ^
La subcadena "Hello World" no fue citada aquí, pero se comportó como si fuera una cita fuerte. Usando su ejemplo nuevamente, recorte el final de manera diferente esta vez:
vv v (plain apostrophe)
$ echo '\'Hello World\' # Will echo: '\' and 'Hello World''
\Hello World' ^^ # Note that the trailing ' char is backslash escaped.
La subcadena "Hello World" nuevamente se comporta como si fuera una cita fuerte, con solo el apóstrofe agregado (escapado, por lo que ya no hay una sola cita) al final.
Cuando se agrega otra comilla simple al final (su ejemplo original), la cadena se deja colgando y esperando una comilla cerrada.
echo \''Hello World'\'