Coje la calculadora de Windows, la pones en cientifica y metes el nº (es hexadecimal).
Si no me equiboco el 0xFE es 11111110 en binario, cada numero o letra hexadecimal equivale a un grupo de 4 binario. Si es mas facil para tí tb puedes usar notacion en binario, en esa funcion quedaria.
set_tris_b(0b11111110);