Windows, en la configuración que tú usas, petara seguramente cuando el administrador de tareas te indique que estas llegando a 1,6-1,7 Gb de Ram aproximadamente.
Haz la prueba y podrás comprobarlo.
Posiblemente se te cuelga cuando cargas esa malla de ZBrush, y desbordas la memoria, entonces se cuelga, la culpa es del límite de Ram de Windows XP pro. En este caso se te colgara incluso antes de mostrar en el administrador de tareas que llega al límite de RAM.
A mi parecer no es la forma más adecuada de trabajar con 3ds Max + ZBrush, estas haciendo las cosas a lo bestia, una locura, el procedimiento correcto es trabajar con una malla de geometría base, y exportar del ZBrush un mapa de desplazamiento.
Necesitas Windows 64 y 3dsmax9 64.
La Ati, una tarjeta nada recomendable para 3ds Max.
Wayta, no es cuestión de dárselas de sabiondo ni de cuantos años lleves usando max, no dudo de tus conocimientos, pero es evidente que tú forma de trabajar no es la más adecuada, muchas veces los problemas se deben a desconocimiento de los límites de la máquina que usamos, el software, o simplemente el procedimiento más adecuando.
Lo que tienes que preguntarte es porque ha ti se te cuelga, y a los demás no, e intentar aprender a gestionar tu equipo y los recursos de la forma más adecuanda, en este caso hoy aprendes algo nuevo haz algunas pruebas y me cuentas, te contaré un par de trucos para estirar esa RAM.