En linux lo más facil ( aunque trabajoso), es hacerte la aplicación vos. Lo podes hacer en los lenguajes tipicos de linux como C ó Perl
En c una idea que se me ocurre, es algo asi:
main()
{
fd=open("\dev\tty",RD_ONLY);
do{
n=read(fd,bufer_serie,1);
graficar(bufer_serie);
}while(*bufer_serie!=EOF);
}
fijate que es sencillo leer el puerto serie, ahora lo más dificil viene a la hora de graficar. Una función sencilla que se me ocurre, aunque no gráfica, imprime en la consola el valor del puerto seria asi:
void graficar(char *bufer_serie)
{
}
Si vos lo queres graficar en tiempo real, si o si, podes usar x-cursore para graficar en una consola. Este tema lo explican en la guia GULP de linux para C que se consigue en internet.
Otra opción aunque no es en tiempo real seria mandar todo el bufer a un archivo y luego graficarlo con openoffice planilla de calculos, con el diagrama de barras por ej.
Algo mucho más facil e inmediato es bajarte el free-serial-port-monitor que se consigue en internet pero no es para linux (que yo sepa). Esta aplicación no grafica pero te muestra los datos que ingresan por el puerto serie en hexa ( algo parecido a la idea de la función que te pase de linux). Si no es en tiempo real, podes graficarlas con Excel.
Lo más profesional, como vos decis, es Matlab. Seguramente hay otras aplicaciones comerciales que hagan lo mismo pero es mejor aprender Matlab ( no es tan dificil como parece) y tine aplicaciones muy diversas en ingenieria.
Nota: El programa que te pase es solo una idea, ni siquiera probe si compila( de hecho no compila porque no puse ni los includes, ni la iniciación de variables), pero te sirve para seguir la idea.