Маска традиционно 0xFF00FF.
И в SDL ЕМНИП пох на биты, там же просто colorkey задаётся вроде.