Добрый вечер, Иван.
Претендовать на дом, как на объект недвижимой собственности, семья Вашего брата, приехавшая с Украины, не имеет никаких законных оснований. А вот проживать по месту регистрации (прописки), если они все были зарегистрированы (прописаны) в этом доме, они вправе. Если же в доме был зарегистрирован (прописан) один лишь только Ваш брат, без остальных членов семьи, они вообще ни на что претендовать не вправе, а могут уповать только на Ваше добродушие и гостеприимство, и должны быть благодарны собственнику дома за предоставленную возможность временного проживания.
Ваш случай — ещё одно подтверждение правила: ни одно доброе дело не остаётся безнаказанным! Только и всего.
Иван, а я не могу приехать к Вам и потребовать и себе часть дома или его стоимости? (Шучу, конечно, хотя и живу дальше, чем Украина).
Если хотите, изложите историю дома: кому он принадлежал и принадлежит, и каковы основания у брата и у его семьи претендовать на этот дом?
Если Вы являетесь собственником дома, то в любой момент вправе потребовать (в добровольном порядке либо в судебном порядке) выселения любого, кто не является собственником (сособственником) и не является членом Вашей семьи.
Но этот Ваш шаг будет очень жестоким для брата: ведь оставшись без Российской регистрации (прописки), он лишится возможности получать и Российскую пенсию.