Los grupos de seguridad no serán visibles, porque los grupos de seguridad de VPC no tienen ningún significado fuera de su VPC ... y su instancia clásica está (por supuesto) fuera de la VPC.
Las direcciones IP privadas de VPC de las instancias tampoco funcionarán en la configuración de seguridad, ya que tampoco tienen significado fuera de la VPC.
La solución es que debe abrir el acceso (en el grupo de seguridad RDS) para las direcciones IP públicas que serán visibles para RDS:
Si las máquinas VPC están en una subred pública, usaría la dirección IP pública de cada máquina. (Si las máquinas VPC están en una subred pública y no tienen IP públicas, es una configuración incorrecta).
Si las máquinas VPC están en una subred privada, necesita que las direcciones IP públicas asociadas con las instancias NAT de VPC estén abiertas en el grupo de seguridad RDS, porque esas máquinas VPC utilizarán esa dirección de origen para contactar con el RDS clásico, y la dirección de la instancia NAT es lo que será visible para RDS.