La velocidad es la razón más común por la que esto no se hace. De hecho, puede hacer lo que propone, si crea su propio sistema operativo, será muy lento por razones arquitectónicas. Entonces, la suposición de que es más rápido es un poco defectuosa. Incluso si fuera más rápido, sería menos eficiente en términos de desarrollo (como un aumento de velocidad del 1% por 10 veces el trabajo).
Copiar los datos desde la CPU a la tarjeta gráfica es una operación relativamente lenta. Cuanto menos copie, más rápida puede ser su velocidad de actualización. Por lo tanto, lo ideal sería tener la mayoría de los datos en su GPU y solo actualizar pequeños fragmentos de datos. Existe una gran diferencia entre copiar más de 320x200 píxeles en comparación con 1920x1200 o más. Vea que la cantidad de píxeles que necesita actualizar aumenta de forma cuadrática cuando crecen los lados.
Ejemplo: es más barato decirle a la GPU que mueva la imagen 10 píxeles a la derecha que copiar los píxeles manualmente a la memoria de video en diferentes ubicaciones.
¿Por qué tienes que pasar por una API? Simplemente porque no es tu sistema. El sistema operativo no puede permitirle hacer lo que quiera por razones de seguridad. En segundo lugar, debido a que el sistema operativo necesita abstraer el hardware, incluso el sistema operativo está hablando con el controlador a través de algún sistema abstraído, una API si lo desea.
De hecho, calificaría la probabilidad de que su sistema sea más rápido, si solo hiciera todo el trabajo usted mismo, cerca de casi cero. Es un poco como comparar C y ensamblaje. Claro que puede escribir ensamblaje, pero los compiladores son bastante inteligentes en estos días y optimizan mejor y mejor todo el tiempo. Es difícil ser mejor manualmente, incluso si puede, su productividad se reducirá por los desagües.
PD: Una API no hace que sea imposible hacer esta actualización como lo hicieron los juegos antiguos. Es ineficiente, eso es todo. No por la mente API sino porque es un período ineficiente.
PPS: Es por eso que están implementando Vulkan.