Правомерно ли это?

Здравствуйте, viktor. Совершенно не понятна ваша позиция. Если вы не хотите продавать дом, зачем отказываетесь от наследства? Очевидно, что в случае вашего отказа мать станет единственным собственником дома и может распоряжаться им так, как посчитает нужным. 

 В общем, зависит только от вас, как вам быть. Вы либо не хотите продавать дом и по этой причине принимаете наследство, либо согласны с продажей дома, и в этом случае отказываетесь от наследства, утрачивая все права на дом. По этой же причине не понятен ваш вопрос относительно брата. Если брату не нужен дом, его отказ от наследства без проблем заверит начальник колонии.

 Если вы в течение 6 месяцев не принимаете наследство, считается, что вы отказались. Ваша ситуация осложняется проживанием вас в доме. В этом случае можно предположить, что вы наследство приняли. Поэтому нотариус может выдать свидетельство матери только на долю, если от вас не буде отказа.

Добрый день, Виктор.

       Вероятно, ни Ваша мама, ни нотариус,  не разъяснили Вам Ваши права.

       Из текста вопроса неясно, принадлежал ли дом при жизни отца  только ему (как добрачное  или  подаренное ему, полученное им по наследству) имущество, либо дом являлся совместной собственностью супругов. Ничего не говорится и о завещании.

        Если исходить из того, что дом принадлежал только отцу, и завещания он не оставил, то его жена и оба его сына унаследуют по 1/3  имущества умершего отца. Каждый из трех вправе, а не обязан — писать заявление об отказе от наследования,  и никто не вправе принуждать кого-либо отказываться от своей доли.

        Если же дом являлся совместной собственностью супругов, то механизм раздела наследства такой-же, по одной трети каждому из трех претендентов на наследство, только разделу подлежит наследственная масса вдвое меньше — 1/2 совместного имущества супругов, так как  другая половина уже принадлежит супруге на праве личной собственности.

         Если Вы с братом не согласитесь писать отказ, маме выдадут удостоверение о праве собственности по наследству только на причитающуюся ей долю:  в первом случае  -  на 1/3 дома, во втором случае  -  на 1/6 дома, которая будет приращена к уже принадлежащей ей 1/2 доле.

       Продать же другим лицам  принадлежащие маме доли она вправе только после того, как Вы с братом откажетесь выкупить у неё её часть дома.