Respuestas:
Para simplificar el ráster, puede valer la pena mirar gdal_sieve, está disponible en el menú "Ráster". Ver: http://www.gdal.org/gdal_sieve.html
NORTE.
Para generalizar, intente ejecutar un filtro mayoritario. Esto está disponible en saga (y también en hierba, verifique markusN su respuesta). Una explicación de cómo funciona desde arcgis: http://edndoc.esri.com/arcobjects/9.2/net/shared/geoprocessing/spatial_analyst_tools/majority_filter.htm
puede usar gdal_polygonize.py para convertir el ráster a vector, si lo usó anteriormente. Alguna información está aquí .
produce una capa de entidades poligonales a partir de un ráster
SINOPSIS
gdal_polygonize.py [-o name = value] [-nomask] [-mask filename] raster_file [-b band] [-q] [-f ogr_format] out_file [layer] [fieldname]
además de esto en qgis, puede usar la herramienta Polygonize para sus necesidades. Está debajo del Raster > Conversion > Polygonize (Raster to vector)
menú.
si no ve nada excepto Calculadora ráster en el menú Ráster, debe ingresar Administrar complementos en Complementos y luego habilitar GdalTools. eso es todo..
Espero que te ayude...
Primero puede usar el operador "mode" de r.neighbours en GRASS GIS (a través del complemento Sextante), luego vectorizar con r.to.vect para obtener polígonos. Quizás el operador "modo" debería ejecutarse más de una vez.