سلام....
شما میتونید از پلاگینهای رندر به سبک کارتون استفاده کنید.
مثلا final toon
یا pencil+2
البته هر کدوم از موتور های رندر mental ray و vray و brazil و scanline گزینه و یا متریالی برای این کار دارن....ولی اون پلاگین ها کار رو خیلی ساده تر و سریعتر و بهتر میکنن.
موفق باشید