Si mal no recuerdo la clave de la regulacion de una fuente con un zener en paralelo con la carga, depende de hacer lo mas grande posible la corriente a travez del zener. En el caso de los 5 volt 50 mA, haria circular por el zener por ejemplo una corriente de 500mA, que multiplicados por los 5 volt me daria una potencia 2,5 watts, potencia disipada por el zener en su zona de avalancha. De ahi habria que recalcular el resto de los componentes de la fuente sin transformador, si es posible. Dejame ver como es el tema, pues nunca he armado una fuente de ese tipo.
No entiendo como el 7805 no te regula, recuerda que debes de tener aproximadamente el doble de tension a la entrada respecto de la salida, o sea si el regulador entrega 5 volt, deberias entrar con 10V, claro todo esto en forma practica, habria que mirar la hoja de datos. Tambien la fuente sin transformador trabaja en tensiones mas bien estandar, veo que por los 480 V. que mensionas este diseño es para una industria, no he trabajado con 480, si con 380 y trifasico. Estoy atento a tus avances.