Que tal Osterix,
En realidad el problema es que estás intentando enviar solamente la señal del carrier. La forma correcta de usar esos módulos es enviando señales moduladas, como lo hacen los controles remotos de la televisión (por ejemplo).
En tu caso no es necesaria una codificación/decodificación tal como NEC u otra.
Si ves la hoja de datos te sugiere que durante 900us envies la frecuencia de los 38KHz (el carrier) y luego por 600 us no envies nada, de esa manera crearás una señal cuadrada a la salida de 666.67 Hz. Puedes incrementar eso valore para digamos a 1ms enviando el carrier y 600us sin enviar nada, y eso te generará tren de pulsos de 625Hz. Entonces mediante el modulo de captura y comparación puedes medir la frecuencia recibida por el VS1838 (que será de 625Hz). Si esta es diferente o no se recibe entonces ya tomas la decisión y operación correspondiente.
Espero haberte dado una idea y que esta te sea útil.
Salduos,
elreypic.