Efectivamente. Tanto la Quadro K4200 como la GTX 1080 permiten trabajar con resoluciones 4K, de hecho, la GTX llega a soportar hasta 8K.
Código:
.
GTX 1080:
7680 por 4320 a 60 Hz y RGB de 8 bits con dos conectores DisplayPort o 7680 por 4320 a 60 Hz y YUV420 de 8 bits conector DisplayPort 1.3.
.
Pero tus monitores Dell sólo soportan Full Hd así que, lo normal sería utilizar la GTX 1080 para 4K con la tele nueva y la Quadro con los monitores Full Hd tal y como dices.
La única excepción sería darle otro monitor a la GTX aprovechando que tiene varias salidas de vídeo.
La Quadro probablemente dará buen resultado en Maya, pero es posible que la GTX 1080 sea más rápida por fuerza bruta.
Si tienes oportunidad de probar en Maya ambas tarjetas (por separado, dejando una de las tarjetas fuera del ordenador) sería muy interesante saber cuál va mejor.
Es una prueba qué podría ayudar a muchos compañeros, pero no te sientas obligado a hacerla.