Со сложными командами Intel хлебнул лиха с iAPX-432, это был 1981 год.
Хотя, если бы они этот проект делали позже, то справились возможно.
Это был этап набивания шишек и приобретения опыта, благодаря чему они справились с 386
Насчёт низкой скорости VAX, вопрос интересный, мне сдаётся, что если бы VAX правильно впихнуть в FPGA мог бы получиться ещё тот зверя
У VAX преимущество в том, что там одной командой делаются то, что на других архитектурах требует нескольких инструкций. И в силу этого код получается компактнее.
тактовая PDP-11 на FPGFA до 100 МГц довели, при этом сильно есть куда работать по оптимизации. И сама используемая FPGA далеко не последнее слово ...