Странный какой то получается "старт"... Есть готовая, проверенная плата в доках ау-плеера. Возьмите ее, запустите. Там проще экспериментировать, монтаж таки не СМД :) А Вы как то начали с разводки платы на смд, да еще и такого размера :) Вот смотрите какая должна быть платка для мобильного девайса:
Вложение 52302
Размеры 50х55мм, на плате есть кнопки и разъем наушников. Это последний из вариантов на базе AY-3-8912, самый маленький. Питание адаптировано под 1 банку Li-Ion.
PSG выдирать не надо. Есть плеер Сергея Бульбы, там наконвертируете себе их тысяч 5-10, на первое время хватит.
http://bulba.untergrund.net/emulator.htm
И еще... Разбираться с ПО на ассемблере, такого размера - это очень плохая идея, но это как бы сугубо индивидуально. Плеер в общем то прост, имеет движок, заточеный под проигрывание потоков типа аудио/видео, но адаптировать думаю вполне можно не только под PSG.
Из известных глюков - не правильная работа с картами 8,16Мб. Поддержку FAT-12 я так и не стал писать. Под этот движок написал дрова под винты IDE, так что можно построить True Hardcor-ный девайс :)

