Добрый вечер, Сергей.
В описанном Вами случае, при отсутствии завещания, наследство будет делиться между Вашей матерью и детьми ее умершего брата, которые наследуют теперь по праву представления, как наследники умершего наследника первой очереди.
Основание: статья 1146 Гражданского кодекса Российской Федерации, которая устанавливает, что доля наследника по закону, умершего до открытия наследства или одновременно с наследодателем, переходит по праву представления к его соответствующим потомкам; ст. 1142 Гражданского кодекса Российской Федерации в которой установлено положение о том, что наследниками первой очереди являются дети, супруг и родители наследодателя.