Hola, después de haber probado todas las posibilidades que me dieron, y les agradezco a cada uno, lo mejor fue la respuesta de MerLinz, lo que no me daba cuenta es que con la tecla Shift + barra espaciadora le podía cambiar la forma en que la linea dibujaba, o sea de recta a 45º, curva y una estilo libre que fue la que me sirvió, luego probé otras y les comento: la de mover los vórtices ayuda para corregir un poco pero me resulto muy complejo el darle la forma así, con la Keep out layer salio rapidísimo y simple pero le tenes que decir que quite las islas sin conexión o te dibuja todo por afuera de la placa, otra no me sirvió lo de re definir el board ya que ya lo tenia definido y esto lo modificaba y no tenia ninguna diferencia con la malla.
En definitiva habia que dibujar a mano el borde y asi salio.
Gracias a todos.