Я чет ниче в этом коде не понял. Но судя по графику там какое-то переполнение, раз у тебя верхушка вылазит снизу, может 8 бит не хватает. Попробуй другие считалки синуса, http://www.andreadrian.de/oldcpu/Z80..._cruncher.html http://z80-heaven.wikidot.com/advanced-math