Здравствуйте.
Если он является собственником доли в праве собственности на дом, то ему за самовольное проникновение в него ничего не будет, поскольку он как собственник вправе владеть, пользоваться и распоряжаться этим имуществом (ст. 209 ГК РФ)
1. Собственнику принадлежат права владения, пользования и распоряжения своим имуществом.
То, что суд ему отказал в иске о нечинении препятствий в праве пользования и передаче ключей не лишило его права собственности на этот дом.
Вы максимум можете взыскать с него понесенные расходы на ремонт двери (приобретение нового замка) пропорционально величине его доли в праве собственности.
Также советовал бы в судебном порядке определить порядок пользования домом так, чтобы никто не нарушал ничьи права. (п. 1 ст. 247 ГК РФ)
1. Владение и пользование имуществом, находящимся в долевой собственности, осуществляются по соглашению всех ее участников, а при недостижении согласия — в порядке, устанавливаемом судом.
Либо вообще договориться о продаже дома, поделить вырученные от продажи деньги и разъехаться.
Просто так лишать другого собственника общего имущества прав в отношении этого имущества — это тупиковый путь, который ведет к бесконечным конфликтам.
А как максимум, на мой взгляд, в его действиях усматривается состав преступления, предусмотренного статьей 139 Уголовного Кодекса РФ:
УК РФ Статья 139. Нарушение неприкосновенности жилища
полный текст — по ссылке:
www.consultant.ru/document/cons_doc_LAW_10699/50d5e657645fa5ca39c5569d6ed240778c0e40b1/
Расследование этого преступления входит в компетенцию следователей СК РФ, поэтому можете подать заявление сразу в следственный отдел СК РФ по месту нахождения жилища, в которое незаконно проник бывший муж.