Para que TurboSmooth funcione correctamente, necesitas que los polígonos que forman tu geometría sean cuadrados. Probablemente, eso que tienes sea como la tapa de un cilindro en donde todas las aristas que forman los laterales confluyen en el centro en un único vértice, provocando las tensiones que ves en el render. Esto te puede ayudar: http://www.scriptspot.com/3ds-max/scripts/Quad-cap.
Pues eso mismo, es un cilindro, esta dividido en triángulos, no en cuadrados, muchas gracias por el enlace ahora entendí.