La hoja de datos tiene su respuesta en la sección 24.5.2:
El voltaje de referencia para el ADC (VREF) indica el rango de conversión para el ADC. Los canales de un solo extremo que exceden VREF generarán códigos cercanos a 0x3FF. VREF se puede seleccionar como AVCC, referencia interna de 1.1V o pin externo de AREF.
Una referencia de voltaje en un microcontrolador no es lo mismo que un límite de voltaje . El ADC utiliza la referencia de voltaje (en este caso) para realizar una comparación, y el microcontrolador parece estar diseñado para permitirle exceder esta cantidad.
Nunca querrá exceder el límite de voltaje (en este caso, eso sería AVcc, la fuente de alimentación analógica del ADC). Los microcontroladores tienen diodos de protección incorporados para salvar su tocino si eso sucede, pero en términos generales, uno debe diseñar el circuito externo para que no exceda el límite de voltaje. (Esta es una mejor práctica; en algunos casos, uno puede tener razones para ignorarlo).