Creo recordar que con el propio Max 4 hay un manual en .pdf que se titula algo así como MAXSCRIPT SDK, muy completo. No es para realizar plugins en sí, sino scripts con el propio lenguaje del max, pero quizás te sirva para empezar.
Sobre scripst también puedes encontrar más información en
www.scriptspot.com
Saludos,
Drakkhen_Rotor