Lo que dice micro_pepe es: para que el 7805 funcione bien necesita, como mínimo, 3V en la entrada. Eso explica porqué, cuando cae de 8V, el regulador 7805 comienza a fallar.
Ahora que has brindado más detalles, lo que tu quieres medir no son los 5V en la salida del 7805, sino lo que quieres medir es la tensión de entrada en el 7805. Bueno, como la tensión máxima es de 12V, lo que tienes que hacer es acondicionar esa tensión a un máximo de 5V para colocarlo en el ADC del pic. Puedes calcular la tensión de referencia a 4V con un regulador de tensión, que estará alimentado con los 5V de la salida del 7805. ¿Por qué a 4V? bueno, como el 7805 necesita mínimo 8V --> 12V - 8V = 4V
Como la tensión de referencia es de 4V (o la que tu necesites) deberías hacer que, cuando haya 12V en la entrada del 7805, obtengas 4V en la entrada del ADC. Así, cuando baja 0V (por la caída de tensión en la entrada del 78xx), obtendrías 12V - 4V = 8V. Al detectar 8V, deberías hacer que te de un aviso de baja tensión de entrada.