Согласно ч.1 ст.1110 Гражданского кодекса РФ при наследовании имущество умершего (наследство, наследственное имущество) переходит к другим лицам в порядке универсального правопреемства, то есть в неизменном виде как единое целое и в один и тот же момент.
Поэтому для того, чтобы квартира была унаследована Вашей мамой — на момент смерти квартира Вашего дедушки должна была быть его собственностью. Если дедушка до своей смерти произвел отчуждение квартиры (например: продал, подарил), то наследоваться она не может. Если же дедушка завещал квартиру своему старшему брату, то в соответствии со ст.1149 Гражданского кодекса РФ мама может иметь право на обязательную долю (например, если мама являлась на момент открытия наследства и является нетрудоспособной — достигла возраста 55 лет, инвалид 1,2,3 группы).