По общим правилам ст. 34 Семейного кодекса РФ имущество, приобретенное в период брака по возмездным сделкам (к которым, в том числе, относится купля-продажа), является общим имуществом супругов.
Т.е. квартира, купленная Вашим братом в браке, является общим имуществом (его и его супруги).
В процессе раздела совместно нажитого имущества в виде данной квартиры Вашему брату в целях выделения ему большей доли в данной квартире в суде надо будет доказывать, что большая часть денежных средств, потраченных на ее приобретение, были им внесены от продажи собственной квартиры, полученной по договору дарения.
Обычно в таких случаях суды проверяют материальное положение сторон (супругов) до момента приобретения спорной квартиры, а также просят стороны предоставить подтверждение доходов и источников их приобретения, которые были потрачены на покупку квартиры.
Если Вашему брату в суде удастся доказать, что большая часть денежных средств, потраченных на покупку спорной квартиры, были от его личного дохода с продажи своей квартиры, полученной в дар, то он сможет увеличить свою долю в праве собственности на квартиру пропорционально размеру указанных средств.
Пр этом в любом случае спорная квартира будет поделена судом в процессе раздела совместно нажитого имущества между обоими супругами, т.к. квартира приобреталась в браке, а также с использованием средств ипотечного кредита.
К участию в деле о разделе квартиры необходимо будет привлекать банк, который является залогодержателем данной квартиры, а также необходимо будет решать вопрос о разделе обязательств по ипотечному кредиту, т.к. разделу полежит не только совместно нажитое имущество, но и общие долги.
В случае признания доли на квартиру за супругой незначительной (в размере менее 1/6), можно будет в дальнейшем выкупить данную долю.
Так, в соответствии с п. 4 ст. 252 ГК РФ в случаях, когда доля собственника незначительна, не может быть реально выделена и он не имеет существенного интереса в использовании общего имущества, суд может и при отсутствии согласия этого собственника обязать остальных участников долевой собственности выплатить ему компенсацию.
При этом изначально доли в имуществе будут признаваться равными.
Ст. 39 СК РФ
Соответственно вы должны доказать, что значительная сумма от покупки новой квартиры была внесена именно за счета продажи старой. Если подтвердить данный факт не получится, доли так и останутся равными.
В первом ответе я указал на невозможность раздела. Однако учитывая, что новая квартира все же была куплена именно в период брака, соответственно имущество уже имеет статус совместно нажитого и будет делиться судом. Вопрос лишь в том, кто и какую долю получит. Чтобы склонить суд в свою сторону и добиться отступа от равенства долей, вам нужно в первую очередь собирать доказательства внесения личных средств в покупку квартиры. Иначе есть риск, что супруге отдадут половину квартиры.