No sé con vray pero con mental ray puedes en un material del tipo mental ray poner en el mapa "shadow" un shader "shadow transparency" y en él definir el color de la sombra como su transparencia. Con eso asunto arreglado

Saludos :D