La forma más fácil sería implementar Windows 10 LTSB. Enterprise LTSB es una versión de soporte a largo plazo de Windows 10 Enterprise lanzada cada 2 a 3 años. Básicamente, esto es Windows 10 sin todo el contenido de la aplicación; Sin Microsoft Store, sin Microsoft Edge, sin aplicaciones.
Obviamente, esto requiere un ISO completamente diferente. Se admiten con actualizaciones de seguridad durante 10 años después de su lanzamiento, y no reciben intencionalmente actualizaciones de funciones.
Si ya tiene un plan Windows 10 Enterprise E3 (por dispositivo) a través de Licenciamiento por volumen, puede descargar e instalar Windows 10 Enterprise LTSB.
Más detalles: http://download.microsoft.com/download/2/D/1/2D14FE17-66C2-4D4C-AF73-E122930B60F6/Windows-10-Volume-Licensing-Guide.pdf
Si no puede o no quiere cambiar el sistema operativo, debería poder desinstalar todas las aplicaciones a través de PowerShell:
Ejecutar como administrador: Get-AppXProvisionedPackage -Online | Remove-AppxProvisionedPackage -Online Get-AppxPackage -allusers | Remove-AppxPackage
Ejecutar como usuario: Get-AppxPackage | Remove-AppxPackage
Tenga en cuenta que esos comandos desinstalarán todas las aplicaciones, excepto Cortana, Edge y Microsoft Store. También perderá la calculadora al hacerlo, solo para su información.