Можно ли сохранить единоличную собственность при выделении долей по маткапиталу?

Но если исходить из того, что

Я собственник, квартиру приобрела до брака. С мужем после заключения брака через год закрыли ипотеку мат капиталом. По факту посчитала что он вложил примерно 800 тыс.

то, квартира ваша собственность, а муж имеет право претендовать на половину платежей осуществленных по ипотеке в период брака.  + долю по МК.

Но так как вы указали в простой письменной форме в соглашении конечно реестр не зарегистрирует.

Нужно делить имущество у нотариуса (при желании), и через последнего оформлять соглашение по МК.

На самом деле хочу оставить единоличную собственность до покупки следующей квартиры. 

Понимаю вас, но у вас обязанность выделить доли по МК всем членам семьи.

В новой квартире мы должны снова выделить 4 доли по мат капиталу, а оставшуюся часть вдруг супруг не захочет делить с моей мамой..

Нет, в новой по МК вы ничего не выделяете уже. Вы в новой покупаете доли детям не меньше тех, что были в продаваемой, а остальную часть вы с мужем можете купить как решите (в долях, на кого то одного и тд). Брачный можно заключить в любой момент, и даже сейчас, к примеру, указав, что на чье имя  будет  приобретена недвижимость в период брака ,  личной собственностью того она и является.

То обстоятельство, что в период брака было произведено погашение ипотеки, на приобретение Вашей квартиры за счет общих доходов,  которая была приобретена до брака, не означает возникновения режима совместной собственности на эту квартиру.

подробнее можете ознакомиться по данной ссылке 

https://vsrf.ru/lk/practice/stor_pdf/2344518

 В новой квартире мы должны снова выделить 4 доли по мат капиталу, а оставшуюся часть вдруг супруг не захочет делить с моей мамой.

В новой квартире, обязательно нужно будет выделить равнозначные доли детям, согласно предварительному разрешению органа опеки и попечительства, в соответствии со ст. 20, 21 Федерального закона «Об опеке и попечительстве» от 24.04.2008 N 48-ФЗ, без предварительного разрешения квартиру, после определения долей детям в ней продать Вы не сможете согласно ст. 37 ГК РФ. 

Согласно ч. 2 ст. 37 ГК РФ

2. Опекун не вправе без предварительного разрешения органа опеки и попечительства совершать, а попечитель — давать согласие на совершение сделок по отчуждению, в том числе обмену или дарению имущества подопечного, сдаче его внаем (в аренду), в безвозмездное пользование или в залог, сделок, влекущих отказ от принадлежащих подопечному прав, раздел его имущества или выдел из него долей, а также любых других действий, влекущих уменьшение имущества подопечного.