Добрый день, Елена.
Любые сделки с долями — только через нотариуса. Поэтому договор купли-продажи доли, в любом случае, будете заключать у нотариуса, он же вам и пояснит о возможных нюансах.
Собственно, кроме договора купли-продажи вам более ничего и не требуется (+паспорта и свидетельства о праве собственности). Также может потребоваться нотариально заверенное согласие жены брата на сделку. Особых нюансов нет. Единственное, если вдруг в будущем у вас с родственниками возникнут какие-либо разногласия, то выписать из квартиры брата, его жену и детей вы сможете только через суд. Поэтому, возможно, перед сделкой имеет смысл снять их с регистрационного учета.