Запрограммируйте CKOPT.
В документации написано: "For resonators, the maximum frequency is 8 MHz with CKOPT unprogrammed and 16 MHz with CKOPT programmed."
Ещё можно попробовать сделать внешний генератор на 1533лн1 и подать тактовые импульсы с него.