Se presenta un métoto para la transferencia en tiempo real de las expresiones faciales de un actor capturado con fuente de vídeo a otro actor en el vídeo destino, esto permite el control ad-hoc de las expresiones faciales del actor de destino. La novedad de este enfoque radica en la transferencia fotorealista en la representación de deformaciones faciales detalladas, algo que visto tal cual como podremos apreciar en el vídeo, es sorprendente.

Para lograr esto, capturamos de forma precisa los movimientos y gestos faciales del actor de origen y destino en tiempo real, utilizando un sensor RGB-D.

Para cuadro encajan conjuntamente un modelo paramétrico para identificar y detectar la expresión y reflectancia de la piel con los datos de entrada de color y profundidad, así como la iluminación de la escena. Para la transferencia de la expresión se calcula la diferencia entre las expresiones de origen y destino capturando una serie de parámetros y modificando los mismos para adaptarlos en el actor de destino.

Un reto importante es obtener un render convincente en tiempo real, esto requiere una cuidadosa consideración de la iluminación y el sombreado, ambos deben corresponder al entorno real, el vídeo que podemos ver a continuación está realizado en tiempo real, en vivo.



Más información en http://graphics.stanford.edu/~niessn...5realtime.html