Podría estar fuera de lugar, pero en mi opinión, algunos de los mejores temas para enfocarse si solo desea abordar problemas como aficionado son las matemáticas discretas: combinatoria, teoría de grafos e incluso geometría combinatoria. Esto se debe a que los problemas en estos reinos son bastante accesibles y fáciles de enunciar y reflexionar sin demasiados antecedentes.
Eso no significa que pueda resolverlos sin antecedentes: eso llevará mucho más tiempo. Pero es un buen lugar para comenzar. Además, lo que podría limitarlo es el acceso a la literatura: artículos, libros, etc. papeles de sitios web de investigadores.
Es posible que los días de matemáticos aficionados al estilo Fermat hayan terminado, pero realmente lo dudo. Conozco a personas que comenzaron a investigar como un pasatiempo secundario y lo disfrutaron tanto que ahora son investigadores a tiempo completo. E incluso si no lo haces, al menos lo disfrutarás. Como Alessandro señala en los comentarios, este sitio web es un gran recurso para que usted también lo use.