Доброго времени суток, Ирина!
Действия нотариуса правомерны:
ч. 1 1146 ГК РФ
Доля наследника по закону, умершего до открытия наследства или одновременно с наследодателем (пункт 2 статьи 1114), переходит по праву представления к его соответствующим потомкам в случаях, предусмотренных пунктом 2 статьи 1142, пунктом 2 статьи 1143 и пунктом 2 статьи 1144 настоящего Кодекса, и делится между ними поровну.
ст. 1142 ГК РФ
Наследниками первой очереди по закону являются дети, супруг и родители наследодателя.
Внуки наследодателя и их потомки наследуют по праву представления.
Т.к. в случае, если Ваш брат был бы жив, наследство делилось бы поровну между Вами и Вашим братом, Ваша племянница правомерно получила половину наследства (вместо умершего отца) по праву представления.
С уважением и удачи!
По-человечески — я Вас понимаю, однако, к сожалению, единственным правовым способом изменить порядок наследования на сегодняшний день — это завещание.