Hola
alavai 
con respecto a tus preguntas
uno de mis grandes problemas es que no sé qué valores poner en:
Comm1.RThreshold
Comm1.InBufferSize
Comm1.InputLen
la propiedad
RThreshold solo es necesaria si utilizas el evento OnComm, debes pensar muy bien el valor que se le pone. Si ponemos un valor corto (1 es el mínimo), cada vez que reciba un carácter se producirá el evento OnComm.
el puerto serial en visual basic trabaja solamente en ascii aunque el equipo los envie en hexa el puerto los recibe en ascii en tu caso, esto:
> > AFR HEX 8 bit
> > RPM LSB HEX 16 bit
> > RPM MSB HEX 16 bit
AFR mandara un caracter y los RPM 2 caracteres cada uno, pero hay que pensar bien que pondras ahi porque debes considerar tambien los 00 01 02 que te esta enviando (serian otros 3 caracteres) pero segun los datos que posteaste estas recibiendo mas

.
con esta propiedad
Comm1.InBufferSize establecemos el tamaño del Buffer (almacén de datos) de entrada.
Puede conocerse el número de caracteres presentes en el Buffer de entrada consultando el valor de la propiedad
InBufferCount..
Por defecto, cuando se lee el Buffer de recepción, se leen todos los caracteres, quedando el Buffer vacío. Si se le asigna a
Comm1.InputLen un valor distinto de 0, cada vez que leamos el Buffer de recepción leerá un número de caracteres igual a esa cantidad, permaneciendo los caracteres restantes en el Buffer a la espera de una nueva lectura. Asignándole el valor 0 (Valor por defecto), el buffer se lee completo.
ahora con respecto a la interpretacion de los datos tengo unas preguntas, segun la informacion que te dio el fabricante antes de enviar los datos envia la cadena 00 01 02 tal como te muestra el hyperterminal despues de esto supuestamente te envia AFR (8 bits) y luego RPM (32 bits), 40 bits en total (10 numeros hexadecimales) pero entre cada cadena 00 01 02 hay el doble 80 bits (20 numeros hexadecimles) ¿estas seguro de que solo esta enviando estos datos? ¿asi como esta la cadena 00 01 02 para iniciar habra otra para finalizar?
saludos