Скорее всего, алгоритм Vitamin лучше всех пока.
А вот еще у большинства спрайтов границы плавные, а внутри всё или почти всё заполнено. Может, еще это как-то учитывать при кодировании.