Si Ogre3d es el mejor o viable depende completamente del tipo de juego. En la industria, lo que sucede a menudo es que usas algo como Ogre3d (o IdTech, o Source, o Unreal) como punto de partida y construyes a partir de ahí, dependiendo de tus necesidades y requisitos.
Por ejemplo, compare un juego como GTA IV con Modern Warfare 2. Los requisitos de representación son completamente diferentes.
GTA IV tiene un ciclo de día y noche, un sistema meteorológico, vehículos que se mueven rápidamente, toneladas de fuentes de luz desde automóviles hasta farolas, una gran cantidad de actores animados en la pantalla y es un gran mundo abierto. GTA IV funciona alrededor de 30hz y la jugabilidad es tal que se puede tolerar cierto retraso de entrada.
MW2 es un fps con pocos vehículos, muchas explosiones y efectos de pantalla, relativamente pocos actores en la pantalla, texturas con las que tu cámara puede enfrentarse y un camino predecible en su mayoría a través de un mundo bastante pequeño. MW2 funciona a 60 hz y el retraso de entrada afecta gravemente el juego.
Es imposible hacer un motor de renderizado que sea óptimo para ambos tipos de juegos.
Ogre3d podría ser un buen punto de partida para lo que estás tratando de hacer, pero como dijo Ranieri, no temas ensuciarte las manos.