Может ли претендовать жена умершего брата на наследство от его матери?

По общему правилу права на имущество, подлежащие государственной регистрации, возникают с момента регистрации соответствующих прав на него, если иное не установлено законом (п. 2 ст. 8 ГК РФ).

Иные правила установлены для наследников.
В соответствии с п. 4 ст. 1152 ГК РФ принятое наследство признается принадлежащим наследнику со дня открытия наследства независимо от времени его фактического принятия, а также от момента государственной регистрации права наследника на наследственное имущество, когда такое право подлежит государственной регистрации. Как указал Верховный Суд РФ в Определении от 13.01.2009 N 5-В08-148, принятое наследство в отношении недвижимого имущества признается принадлежащим наследнику со времени открытия наследства, а получение свидетельства о праве на наследство является правом, а не обязанностью наследника (п. 4 ст. 1152, ст. 1162 ГК РФ) и является исключением из общего правила, определяющего возникновение права на недвижимое имущество с момента государственной регистрации. Такой же вывод сделан и в Постановлении Пленума Верховного Суда РФ N 10, Пленума ВАС РФ N 22 от 29.04.2010 «О некоторых вопросах, возникающих в судебной практике при разрешении споров, связанных с защитой права собственности и других вещных прав».Доказательством принадлежности имущества наследнику (как основания приобретения права собственности) является свидетельство о праве на наследство (ст. 1162 ГК РФ), в котором указывается дата смерти наследодателя (Приказ Минюста России от 10.04.2002 N 99).

Это значит вне зависимости от регистрации и получения свидетельства о собственности доля квартиры являлась собственностью Вашего брата. 

Его жена является наследницей Вашего брата, если у него были дети то и дети тоже являются наследниками. Все наследники наследуют долю умершего в равных долях (если завещанием не определен другой порядок). 

Жена брата может  в течение шести месяцев со дня открытия наследства обратится с заявлением  по месту открытия наследства к нотариусу  о принятии наследства либо заявления  о выдаче свидетельства о праве на наследство.