Cuando compilás para Mega, RBDDimmer te usa la interrupción _TIMER4_COMPA_VECTOR, pero cuando es para Nano o Uno la _TIMER2_COMPA_VECTOR que también la usa FreqCount.
Probá editar RBDmcuAVR.h cambiando #define DIMMER_TIMER 2 por el timer 0 o 1 . Pero como NO son todos iguales NI controlé si los programas te dejan alguno libre, puede que no funcione.