Какую бумагу мне сейчас с него необходимо взять чтобы впоследствии он не претендовал на эту квартиру?

Лучше оформить купле-продажу квартиры от мамы Вам, договор дарения, завещание, если брат имел основания участвовать в приватизации, но был ребенком, то дополнительно, желательно, от него получить нотариальное согласие на эту сделку, если вы между собой решаете без участия матери, то это сложнее, и могут сложиться обстоятельства так, что чтобы вы не составили и не подписали даже у нотариуса, это обязательство будет в последующем недействительно. Можете подстраховаться и оформить иное обязательство, компенсирующее Ваши труды и риски

Вероника! Вы дали брату деньги. Составьте  договор займа с отменительным условием, что он будет освобожден от выплаты Вам этой суммы денег после вступления Вами в наследство после смерти матери на ее квартиру.

В силу ст. 810 ГК РФ заемщик обязан возвратить займодавцу полученную сумму займа в срок и в порядке, которые предусмотрены договором займа. В случаях, когда срок возврата договором не установлен или определен моментом востребования, сумма займа должна быть возвращена заемщиком в течение тридцати дней со дня предъявления займодавцем требования об этом, если иное не предусмотрено договором. 

В соответствии с положениями ст. 157 ГК РФ сделка считается совершенной под отлагательным условием, если стороны поставили возникновение прав и обязанностей в зависимость от обстоятельства, относительно которого неизвестно, наступит оно или не наступит.