Могу ли я отказаться от этой доли и уйдет ли с меня долг?

Здравствуйте, Кристина!

Здравствуйте,

отказаться от доли вы не можете, но можете ее подарить или продать. 

Долг за период, когда вы были собственником останется за вами. 

Если это долг за ЖКХ:

Платить за услуги ЖКХ должен собственник в пределах доли, которой он владеет.  Факт прописки и фактического проживания значения не имеет:

Статья 210 ГК РФ

Собственник несет бремя содержания принадлежащего ему имущества, если иное не предусмотрено законом или договором.
Если вы в будущем не хотите оплачивать коммунальные ресурсы, то квартиру нужно продать. Однако существующие долги нужно оплатить. 
Прописка и фактические проживание на оплату никак не влияет:

Пункт 11 ст.158 ЖК РФ

Неиспользование собственниками, нанимателями и иными лицами помещений не является основанием невнесения платы за жилое помещение и коммунальные услуги. При временном отсутствии граждан внесение платы за отдельные виды коммунальных услуг, рассчитываемой исходя из нормативов потребления, осуществляется с учетом перерасчета платежей за период временного отсутствия граждан в порядке и в случаях, которые утверждаются Правительством Российской Федерации.