Здравствуйте, Евгений!
Согласно ч. 1 ст. 1142 ГК РФ
Наследниками первой очереди по закону являются дети, супруг и родители наследодателя.
В то же время, принимая во внимание, что Ваш брат, который является наследником первой очереди (после смерти мамы) умер раньше мамы, то будет применяться норма о наследовании по праву представления.
Так, в соответствии с ч. 1 ст. 1146 ГК РФ
Доля наследника по закону, умершего до открытия наследства или одновременно с наследодателем (пункт 2 статьи 1114), переходит по праву представления к его соответствующим потомкам в случаях, предусмотренных пунктом 2 статьи 1142, пунктом 2 статьи 1143 и пунктом 2 статьи 1144 настоящего Кодекса, и делится между ними поровну.
С учетом вышеприведенных норм можно сделать вывод о том, что родная дочь брата, который умер до момента открытия наследства, будет являться наследником по праву представления (вместо умершего брата, который по ч. 1 ст. 1142 ГК РФ являлся бы наследником первой очереди).
Это самый положительный для Вас вариант. В этом случае вся квартира будет Ваша, и наследоваться вообще не будет.