PAULA

Antes de empezar con las dos cosas a la vez (max y vray), te recomiendo que empieces aprendiendo "solo" 3dmax.Al final te ahorrarás tiempo y quebraderos de cabeza.Una vez que sepas el funcionamiento básico de max, donde esta cada botón, que es cada cosa (una libreria .mat o un material standard, vray..etc de esa librería) y para que sirve, ya puedes meterte con motores de render.
Lo digo por tu explicacion con respecto a la forma de asignar un material, es un tanto confusa, no diferencias entre librerías y tipos de material,con lo que tampoco se te va a poder contestar muy bien.
Lo unico que se me ocurre es que no hayas asignado como motor de render el vray y tengas aun puesto el scanline que es lo que os suele pasar a muchos.