No conozco ninguna herramienta que haga esto "fuera de la caja". Escribí un script para hacer algo como esto con inicios de sesión fallidos de OpenSSH en Windows, pero no puedo compartirlo con usted porque "pertenece" al Cliente para el que lo escribí.
Dicho esto, era un simple programa VBScript que tenía un sumidero de registro de eventos para observar nuevos inicios de sesión fallidos y, si ocurría lo suficiente en una ventana de tiempo, agregar una ruta IP (usando el comando "ruta") para enrutar el tráfico al infractor Dirección IP a un "Adaptador de bucle invertido MS" en el sistema.
Para otros tipos de registros, sería un asunto bastante trivial escribir. Como no tenía IPtables en Windows, el adaptador de bucle invertido parecía ser la mejor opción. (No puede hacer una "ruta xxxx máscara 255.255.255.255 127.0.0.1" en Windows; necesita un adaptador para enrutar el tráfico, porque el bucle 127.0.0.1 no es una interfaz "real" en Windows).
(Si desea que se escriba algo como esto, comuníquese conmigo fuera de banda y podemos discutir los detalles de dicho acuerdo).
Editar: