Нужно признать его утратившим право пользования жилым помещением. сделать это можно только через суд. раз брак не был зарегистрирован, нужны будут свидетельские показания о том, что он не проживает в квартире, еще желательно подтвердить тот факт, что с Вашей стороны не чинились какие-либо препятствия для его проживания в квартире, и что он ушел добровольно. для этого можно запросить у участкового соответствующую справку. приложить все это к исковому заявлению, + квитанции по оплате коммунальных платежей, чтобы показать, что в содержании жилого помещения он не принимает никакого участия.