Формат архива LZA

[nzeemin]

У Вас как минимум 2 отличия: инверсное значение флагов и смещение от текущей позиции вместо смещения от начала буфера.
В LZA больше похоже на версию Haruhiko Okumura.

Так они ВСЕ происходят от кода Haruhiko Okumura, просто потому что он первым выложил свой код в public domain, в 1989 году.
Вот две похожих реализации, которые я использовал:
https://gist.github.com/davidreynolds/3025423
https://github.com/dwelch67/msp430si...ss/lzss_orig.c