No se que pic estarás usando, pero he mirado el datasheet del 1687X (supongo que para toda la gama media será igual) y efectivamente no puedes meter tensiones negativas en las referencias del canal A/D (no estaba seguro, por eso miro ahora el data).
En las especificaciones eléctricas, indica que la minima tensión a aplicar al pin Vref+ es (AVdd-2.5V) o sea unos 2,5V y la máxima tensión a aplicar en este pin (AVdd+0.3) unos 5 voltios, la minima tensión al pin Vref- (AVss-0.3V) vamos cero voltios y la maxima tensión a este pin sería ((Vref+)- 2.0V).
Lo que suponía mas o menos, pero no pude confirmartelo antes porque no me acordaba del data, creo que hice hace tiempo una cosilla en proteus con una NTC y usaba las tensiones de referencia, creo que se entiende bastante bien, si queires te lo busco.
Un saludo.
PD: Por supuesto ni que decir tiene que esto depende del pic que uses, en los 18 supongo que será distinto, vendrá reflejado en el data