Могу пофантазировать на счёт того зачем так сделали...
Если мышь не подключена, то вычитаются все по обоим направлениям -1 (за счёт подтягивающих резисторов) , сложение 0xFFff + 0xFFff даст перенос - мышки нет, сбрасываем признак её наличия и эмулируем её за счёт прослушивания нажатии на клавиатуре.
А вот если мышка есть, то первое к ней обращение вычитает текущие приращения (которые не будут использованы) и главное счётчики внутри мышки сбросятся. Второе обращение к мыши производится настолько быстро, что ни один из счётчиков не успевает измениться - они остаются нулевыми. Ноль плюс ноль - переноса не даст, значит мышка есть.
Кажется, что перемещая мышь очень быстро про диагонали (так чтобы приращения были отрицательными по обоим координатам и это дало перенос), и мышь не определится... Но считывание с мыши идёт без паузы (при том с запрещенными прерываниями!), а от обоих оптопар должны прийти фронты, прежде счётчик там изменит своё состояние. Наверное можно задался целью с какой скоростью при этом должна двигаться мышь, но мне влом... К тому же, если у кого руки дрожат, то нечего ему мышь за 50$ доверять.
Т.е. в эмуляторе нужно отслеживать сколько времени прошло от предыдущего считывания байта с состоянием dx, если совсем мало - выдавать нулевые приращения. Плюс там широкий строб является признаком начала считывания первого байта (dy).

