Может ли он оспорить завещание матери и уменьшить доли дочерей?

Завещания в суд оспариваются по этой статье только, через судебно психиатрическую экспертизу которую назначит суд по медицинским документам умершего. Иных вариантов нет, 

 Статья 177. Недействительность сделки, совершенной гражданином, не способным понимать значение своих действий или руководить ими

1. Сделка, совершенная гражданином, хотя и дееспособным, но находившимся в момент ее совершения в таком состоянии, когда он не был способен понимать значение своих действий или руководить ими, может быть признана судом недействительной по иску этого гражданина либо иных лиц, чьи права или охраняемые законом интересы нарушены в результате ее совершения.

Здравствуйте, Ольга.

Единственный микроскопический шанс есть в случае, если Ваш двоюродный брат на дату смерти отца проживал в доме, нес расходы по его содержанию и сможет это доказать в суде, установив тем самым принятие наследства фактическими действиями. Отталикиваться нужно прежде всего от этого. Других очевидных оснований для признания завещания недействительным, увеличения наследственной доли брата не имеется. В любом случае, сестра вправе будет продать принадлежжащую ей долю, независимо от ее размера.

С уважением