Hola Ariel, trataré de responderte:
1) ¿Hay alguna manera de aislar el micro de la señal a medir? Es decir...puedo poner un optoacoplador tipo 4N37 o similar entre la señal a medir y el PIC, pero esto es correcto? O me introduce alinealidades en la medida? 
Para ese uso hay optoacopladores lineales que se encargan de aislar la señal a medir y de mantener la linealidad en la lectura, el problema de estos es que no es sencillo conseguirlos.
Si buscas en el foro técnico creo que migsantiago logro medir la tensión de una batería de 12Vcc aislando la misma del circuito A/D por medio de un opto común, pero por supuesto el tuvo que realizar una tabla de linealización para que la lectura sea realista.
2) De los 8 pines dedicados al ADC en el 16F877, dos de ellos son tambien referencias de tension positiva y negativa, entonces....solo puedo usar 6 canales ADC si no uso una referencia de tension externa?
Los Vref son configurables, puedes usar ambos, solo uno de ellos o ninguno
Si no usas ninguno el -Vref es la masa del PIC y el +Vref la tensión de alimentación del PIC y los pines de los Vref pueden ser o no entradas para el A/D (segun la configuración que elijas).
Si solo usas 1 Vref, el Vref negativo es la masa y el Vref positivo lo defines tú por medio de aplicar una tensión a +Vref comprendida entre los 2Vcc y Vdd del pic, el pin de -Vref puede ser usado o no como entrada del A/D.
Si usas ambos Vref entonces ti defines cual es la tensión tomada como limite tanto positivo como negativo, el único requisito es que la diferencia de tensiones entre ambas no sea inferior a los 2Vcc.
3) Es fiable usar un zener como referencia de tension? O es mucho mejor usar el provisto por el PIC?
¿Un zener? para nada fiables los zener, la deriva térmica que tienen es enorme por lo cual su tensión varia mucho segun la corriente y temperatura a la cual se encuentran, para este uso hay circuitos integrados específicos tales como el LM336 que funcionan mucho mejor, tambien a muchas marcas que producen circuito para este uso con tensiones tales como 2.5Vcc, 4.096Vcc para que las tensiones entre cada valor del conversor sean nomeros redondos, microchip posee varios de estos circuitos.
Espero te sea de ayuda.
Un saludo.
Atte. CARLOS.
