Una forma alternativa de controlar el volumen es una desde el terminal. Por ejemplo:
sudo osascript -e "set Volume 3.5"
Esto establecerá el volumen al 50% (la escala es 0-7 usando el terminal).
Puedes usar números enteros o números decimales. Un número más alto o más bajo hará que el volumen suba y baje en intensidad (nuevamente 0-7).
Esto pondrá tu volumen en super silencioso:
sudo osascript -e "set Volume 0.1"
Esto pondrá el volumen en una configuración aún más silenciosa:
sudo osascript -e "set Volume 0.01"
Como dijo @timothymh, para un control de incremento de 1/4 (0.25) sin el terminal, puede mantener presionada la tecla Mayús + Opción mientras usa las teclas F11 o F12 para ajustar el volumen en incrementos de 1/4 (0.25).
Usar el teclado solo le dará 64 ajustes de control de volumen 16*4 = 64
Usando el terminal puede lograr 700 opciones para el control de volumen 7*100 = 700