Опять двадцать-пять.
Как я буду передавать аргументы я уже определился - стек и регистры(в зависимости от потребностей либы).

Я немогу определится как буду вызывать функции.
1.В начале либы пачка JP
2.Передавать номер функции через регистр
3.Номер функции в следующем байте после CALL
Это варианты, а не последовательность действий.