Добрый день.
Для начала необходимо уяснить, что дети и супруг умершего являются наследниками первой очереди, и имеют право на одинаковую долю в наследстве.
1. В случае смерти матери как и и что будет наследовать ее муж. Ее муж будет наследовать все имущество, принадлежавшее Вашей матери и приобретенное ею до брака. Имущество будет делиться между Вами, вашим братом и мужем матери в равных долях (если нет завещания).
2. И что будут наследовать дочери в случае его смерти. Имущество, приобретенное супругами во время их брака является совместно нажитым имуществом, по умолчанию каждому из супругов принадлежит 1/2 доля в таком имуществе. Проще будет объяснить на примере. Например в браке они покупают дом. По умолчанию доли в данном доме у них равные. Следовательно при смерти супруга, в наследство передается 1/2 часть дом, данная часть будет делиться между супругой (вашей мамой) и дочерьми умершего — в равных частях. Оставшаяся 1/2 часть дома принадлежит только вашей матери и в наследственную массу не включается.
3. Может ли в последствии ее муж претендовать на наследуемое мной и моим
братом по завещанию? И какова будет его обязательная доля в наследстве?
Претендовать он конечно может, но для этого нужны основания чтобы оспорить завещание (через соответствующий суд).
Что касается обязательной доли в наследстве — то прочтите по следующей ссылке- www.consultant.ru/popular/gkrf3/6_3.html#p335 (статья 1149 ГК РФ).