Hola!
Espero ayudarte de algo no se si estoy bien pero por lo que vi configuraste el conversor en entero con signo con tensión de referencia igual a la de alimentación: masa y Vcc. Entonces la entrada que es una señal senoidal tiene que tener un offset de 2.5V por encima de este sería el ciclo positivo y por debajo el ciclo negativo para mantener la simetría.
Otra cosa limpias el bit de interrupción del TMR3 pero no usas nunca la interrupción que genera? No entiendo para que lo usas.