Здравствуйте, Наталья.
В нормативных актах содержатся только общие указания на первоочердность удовлетворения требований о взыскании алиментов, ограничениях и пропорциональном распределении, никаких «формул», к сожалению, не имеется. У Вас еще ситуация осложняется тем, что размер удержаний определен не в долях к заработку, а в прожиточных минимумах (далее — ПМ), да еще и в разных субъектах РФ.
Поскольку размер удержаний из заработной платы по взысканию алиментов ограничен 70% заработной платы (оставшейся после удержания НДФЛ), то сначала Вы производите расчет и удержание НДФЛ. От оставшейся суммы удерживаете 70% и перераспределяете ее пропорционально между двумя взыскателями (или двумя ИЛ, если взыскатель один).
На мой взгляд, расчет должен выглядеть примерно так (вы не указали, просил ли работник налоговые вычеты на детей, поэтому расчет без них привожу):
11500 — (11500,00*0,13) = 10 005,00
10 005,00*0,7= 7003,50
16159,50 / 5285,50 = 3,06 (с округлением) - соотношение 1 ИЛ к 2-му
7003,50 / (3,06 + 1) = 1725,00 — по 2 ИЛ удержать
7003,50 — 1725,00 или 1725,00*3,06 = 5 278,50 — по 1 ИЛ удержать
Проверяем 1725,00 + 5 278,50 = 7003,50
Все остальное будет накапливаться в задолженность.