Чтобы браузер предлагал нормальное имя, нужно до отдачи тела файла в PHP-скрипте выставить заголовок:
header('Content-Disposition: attachment; filename=trackname.pt3');

Filename можно заполнять автоматом из базы, например названием трека. Или по какому-нибудь шаблону типа author - trackname.