Быстродействия z80 на 3.5 МГц хватает ногодрыжить через AY на скорости 9600 без проблем, максимальная же скорость что народ достигал это 115200, но там уже был хардкод из пачки out. А если использовать аппаратный uart, то и 33600 легко достижимо софту.
Для турбо загрузки использовали кемпстон, не просто так. А магнитофонный вход же сильно обрабатывает сигнал входящий, поэтому нужно не просто биты дёргать, а по формату данных их передавать.