Ну, если в качестве основной памяти использовать СРАМ, тогда при скорости доступа к ней томожений не будет, она по сути и будет кешем.
На пентеве же стоит ДРАМ, а он имеет рандомный доступ 7МГц. Кеш накрывает последние 512 адресов (адрес физический 22 бита, не 64к), с которых было чтение. Если з80 ломится в адрес, который лежит в кеше - он не формирует цикл доступа к ДРАМ.
По тестам - вполне эффективно.