Error de memoria
Es lo que dice Stewie. Prueba a hacer algunas de estas cosas: Reinicia.
No le des a salvar como, pisando sobre una imagen existente, pues tiene que abrir esa también en segundo plano para borrarla.
Bitmap pagemarker.
Chequea la casilla balance, en RayTrace accelerations controls (en el help te dice lo que tienes que hacer con ella).
Turn of the frame buffer.
Raytrace depth: default 9 a 4 o 3.
Y si todo eso falla: Backburner, lo renderizas en franjas y ya podrá con ello.
Pit Matson dejó de existir en su mensaje 5.999