En esto solo puedo dar mi propia experiencia, pero creo que es suficiente.
He viajado a Japón durante casi un mes en 1994, sin japonés en absoluto y viajando en tren y hostales, usando el inglés ya que mi holandés nativo no se entiende en absoluto. Había organizado mi primera semana con un pequeño recorrido por Tokio / Kioto, pero hice el resto sin ninguna reserva desde casa.
Fue solo cuando salí de las rutas turísticas que conocí un albergue donde las personas que levantaban el teléfono no entendían suficiente inglés para obtener una reserva, una oficina de información turística hizo esa llamada y reserva por mí.
Al llegar al albergue resultó que la casera hablaba 6 palabras en inglés: sí, no, cama, baño, cena y baño. Pero ella usó esas palabras de manera muy eficiente y cuando tuvo que transmitir conceptos más involucrados, le pidió a uno de los otros invitados que tradujera. Había otro huésped cada día que estuve allí, por lo que la elección era muy limitada, pero la estancia fue agradable y exitosa. Y esa fue la peor situación de idioma que conocí.
No he estado en ninguna tienda, restaurante, museo, oficina de reserva de estación, estación de tren o metro donde no había suficiente inglés con el personal y en las señales para poder encontrar mi camino y conseguir mis cosas. Mi japonés está restringido a 'Arigato' (ni siquiera estoy seguro de la ortografía), lo que me dicen es la forma más corta de decir gracias y ser cortés.
Estoy seguro de que el inglés se habla más ampliamente ahora, con tantos años más de jóvenes japoneses aprendiendo en la escuela y tantos años más de turistas que vienen a ver el país.
En Tokio no era un problema en ese momento, en absoluto, aunque sí encontraste algunas personas que no hablaban inglés y gran parte del resto no estaba seguro de su capacidad para usar el inglés y podría haber evitado usarlo en lugar de perder la cara usándolo mal. Por ahora muchas de esas personas estarán acostumbradas a usar su inglés mucho más. Todavía habrá personas que no hablen inglés, pero no lo suficiente como para evitar que encuentres el camino.
Agregado después de leer la respuesta de la persona que vive en Tokio:
Mi experiencia fue un turista, haciendo cosas turísticas, obteniendo comida en restaurantes con modelos plásticos de comida en los pocos casos en que no recibí un menú en inglés y yendo a tiendas donde los turistas eran comunes. Si necesita comunicarse con personas que no interactúan con los turistas con frecuencia, le agradeceré que necesite más japonés.