La mejor manera que he encontrado para limpiar un rallador es usar un cepillo de dientes.
Las cerdas suelen ser la combinación correcta de rigidez y flexibilidad para no quedar atrapadas en las cuchillas del rallador (por lo que no terminas con cerdas de cepillo de dientes ralladas), y están finas y apretadas, encajan en los espacios pequeños y se quitan pegado en trozos de jengibre o queso bastante bien.
Espero que algunos pinceles de verduras también funcionen bien, si las cerdas son delgadas y compactas.
Para los lados de trituración o corte, una toallita suele ser una mejor opción, pero para los lados de rejilla, no he encontrado nada tan bueno como un cepillo de dientes.