Добрый день!
Вы можете оспорить прописку тещи, если на это есть основания. Нужно поднять домовую книгу и выяснить на каком основании она получила прописку в доме. Кроме того, нужно выяснить сохранилась ли прописка Вашего брата (ведь тогда он имеет равные права наравне с тещей).
В идеале нужно найти договор купли-продажи дома или иной письменный документ, по которому Ваша мама приобрела дом. Можно сделать запрос в Администрацию, БТИ, Архив. Возможно у них сохранились такие документы. Либо первоотводные документы на землю, на которой стоит дом.
Если удастся получить письменные доказательства, что дом принадлежал Вашей матери, либо что теща прописалась незаконно — можно оспорить право собственности ее сына. И, соответственно, самому вступить в наследство на дом, оставшийся от матери.
Такие документы нужно будет предоставить нотариусу, у которого сын тещи оформляет наследство. И затем подавать в суд.