Каким образом оформить наследство у нотариуса?

Альберт, добрый день. 

1. Если я правильно Вас понял, право собственности на пай у Вашего брата возникло до вступления в брак. Следовательно, это не является совместно нажитым имуществом супругов ( п. 1 ст. 34 СК РФ)

Следовательно, после смерти Вашего брата (при отсутствии завещания) его имущество переходит наследникам первой очереди, к числу которых относятся: дети, супруг и Ваши с ним родители (п. 1 ст. 1142 ГК РФ)

Как я понял, есть мать наследодателя, которая также может наследовать, соответственно, все имущество брата может быть поделено между его женой и матерью (и Вашим отцом, если он жив).

2. Чтобы мать могла унаследовать все имущество, необходим отказ жены брата (абз. 2 п.1 ст. 1141 ГК РФ). Требование нотариуса обоснованны. 

3. Местом открытия наследства является последнее место жительства наследодателя. Если последнее место жительства наследодателя, обладавшего имуществом на территории Российской Федерации, неизвестно или находится за ее пределами, местом открытия наследства в Российской Федерации признается место нахождения такого наследственного имущества (ст. 1115 ГК РФ).

Место жительства наследодателя может подтверждаться документами, удостоверяющими его соответствующую регистрацию в органах регистрационного учета граждан Российской Федерации по месту пребывания и по месту жительства в пределах Российской Федерации (пункт 1 статьи 20 и часть первая статьи 1115 ГК РФ, части 2 и 4 статьи 1 Жилищного кодекса Российской Федерации, далее — ЖК РФ, части вторая и третья статьи 2 и части вторая и четвертая статьи 3 Закона Российской Федерации от 25 июня 1993 года N 5242-1 «О праве граждан Российской Федерации на свободу передвижения, выбор места пребывания и жительства в пределах Российской Федерации»).