В любом случае коды типа 8b/10b для работы с лентой не стрельнут. У них широкий спектр, поэтому ФАПЧ будет постоянно пролетать мимо тазика. Такой метод кодирования можно использовать на "линии связи" на которой задержка и крутизна фронта не гуляет.
Магнитофон в этом смысле штука очень капризная (очень сильно гуляет как скорость так и АЧХ/ФЧХ тракта), а для того чтобы от ФАПЧ была реальная польза нужно чтобы сигнал в спектре имел всего один ярко выраженный пик, то есть либо манчестер, либо дифференциальный манчестер.
Собственно очень похожая (почти такая-же но другая, там FM в чистом виде) кухня и реализована в фирменном спековском загрузчике.
На мой взгляд у метода есть реальный запас по увеличению символьной скорости, правда придется добавлять помехозащищенное кодирование (магнитная лента имеет склонность к выпадениям сигнала), причем хэмминг на большой скорости не потянет (будет выпадать пачка мит идущих подряд), и надо использовать пакетный код, что-нть вроде рида-соломона (да дохрена их).
По умозрительным прикидкам символьная скорость будет расти быстрее избыточности корректирующего кода, поэтому выигрыш в 1.5...1.75 раза по сравнению со стандартной я думаю получить можно без снижения надежности считывания по сравнению со стандартной.

