Да в такие габариты влезет многое. Тут вариантов кстати много.
Если ты хочешь чтобы на плате был свой проц, то вопрос другой - ВМ80А выбран из каких соображений. Можно заменить допустим на микроконтроллер (обвязки минимум), Z80 (можно типа карту GS от спека замутить, там ЦАПов выше крыши), AY поставить однозначно надо, без него это уже не модуль звука.
На счет АЦП - что ты планируешь им делать?