Или отец получает что-то иное?

Юлия, добрый день. 

У старшего брата очень ограниченные шансы оспорить нотариальное завещание при вменяемой матери; если завещание вдруг признают недействительным, действительно сначала выделяется супружеская 1/2 отцу, а оставшаяся 1/2 делится поровну между наследниками первой очереди; прописка брата и его дочери даёт им права пользования, но не делает их собственниками.

1. Оспаривание завещания старшим братом
Завещание можно оспорить только по основаниям, указанным в ГК РФ: недееспособность завещателя, отсутствие понимания значения своих действий, давление, обман, несоблюдение формы, подложность подписи и т.п.
Если мать была дееспособна, завещание удостоверено нотариусом, нет медицинских заключений о тяжёлых психических нарушениях и нет доказательств давления, формальных оснований у брата мало. То, что его «обошли», по закону не даёт ему права на пересмотр завещания, обязательную долю получают только: несовершеннолетние или нетрудоспособные дети, нетрудоспособный супруг,
нетрудоспособные родители и иждивенцы.
Старший брат — взрослый, дееспособный, без инвалидности и не иждивенец, поэтому права на обязательную долю у него нет.
Его регистрация (прописка) и прописка его дочери не превращают их в наследников и не дают права на «обязательную долю» в собственности; это только вопрос пользования жилищем.
2. Как распределятся доли, если завещание отменят. Если чисто гипотетически суд признает завещание недействительным, включается наследование по закону: Квартира куплена в браке, значит по общему правилу половина (1/2) — супружеская доля отца, вторая половина входит в наследственную массу.
Сначала выделяется супружеская доля: 1/2 квартиры закрепляется за отцом как за пережившим супругом; она не наследуется, это его собственность. Оставшаяся 1/2 — наследство матери: делится между наследниками первой очереди: отец, все дети (Вы, младший брат, старший брат).
Эти трое получают по равным долям от наследуемой части, то есть: наследуемая 1/2 делится на 3 → каждый получает по 1/6 квартиры.
В итоге: отец: 1/2 (супружеская) + 1/6 (наследство) = 2/3 квартиры;
Вы: 1/6; младший брат: 1/6; старший брат: 1/6.
То есть отец получает не 1/8, а фактически 2/3, а дети делят оставшуюся 1/3 по равным долям.

3. Прописка несовершеннолетней дочери и право пользования
Регистрация (прописка) несовершеннолетнего сама по себе не даёт доли собственности, но даёт право пользования жильём, ребёнка нельзя просто «выписать на улицу»; его жилищные права под особой защитой, при любых сделках нужны согласие/участие органов опеки.
При смене собственников жилого помещения зарегистрированный ребёнок не теряет права пользования: новые собственники должны учитывать, что он имеет право проживать, пока не будет обеспечен иным жильём (или пока его законные представители и опека не согласятся на перевод).
Но это право пользования именно у ребёнка (и, по сути, у его законного представителя — отца), а не «основание дать старшему брату долю в собственности»; максимум, суд может учесть наличие ребёнка при определении порядка пользования или при выселении/выписке, но собственность по завещанию останется за вами с младшим братом.
Если вы хотите минимизировать риск оспаривания, важно: собрать и сохранить меддокументы, подтверждающие дееспособность матери на момент завещания; запросить у нотариуса копию завещания и удостоверительную надпись; при первом же шаге брата по оспариванию обратиться к наследственному юристу для подготовки возражений.