Seguro que KALLITOS te resolvió el problema, tal vez esto te pueda servir de ayuda, porque no conozco mucho sobre el tema.
Es interesante lo que preguntas, lo digo porque en mi caso rara vez encomiendo placas con acabado profesional y todo eso lo hacen en la empresa donde llevo los layout hechos en Eagle.
En el Eagle existe una utilidad llamada CAM processor, donde existe una cantidad de variantes con los datos del layout en sí (capas, huecos, etc). por lo que he averiguado las maquinas que hacen el proceso quimico en la baquelita necesitan estos archivos que genera ese CAM. la traducción de la mascara antisoldante en el inglés del eagle sería Solder stop mask, y correspondería a tstop(capa29) para la de arrriba y bstop(capa30) para la de abajo top side
si abrimos el CAM processor y llamamos al archivo gerber.cam, habrá varias pestañas con todo los datos del layout(silkscreen, lado soldadura, etc), y también estan la solder stop mask del lado del componente

y solder stop mask del lado de la soldadura

si te fijas lo que genera en output verás las extension del archivo .stc y .sts, existen otros gpi, plc, whl
conseguí unos módulos ULP en la página de cadsoftusa.com que sirven para manejar esas mascaras
mascaras_ulp.rar
en cuanto al proceso de introducir estos datos a la máquina, lo ignoro.
Salu2