Как мне поступить, чтобы в дальнейшим мне их не пришлось выплачивать

Чтобы на нем не было никакого имущества, которое бы пришлось наследовать. Т, к. только наследники принявшие наследство после смерти принимают на себя и долги. 

Статья 1175. Ответственность наследников по долгам наследодателя

1. Наследники, принявшие наследство, отвечают по долгам наследодателя солидарно (статья 323).
Каждый из наследников отвечает по долгам наследодателя в пределах стоимости перешедшего к нему наследственного имущества.

 В случае заключения одним из супругов договора займа или совершения иной сделки, связанной с возникновением долга, такой долг может быть признан общим лишь при наличии обстоятельств, вытекающих из п. 2 ст. 45 СК РФ, бремя доказывания которых лежит на стороне, претендующей на распределение долга. В соответствии с п.2 ст. 45 СК РФ взыскание обращается на общее имущество супругов по общим обязательствам супругов, а также по обязательствам одного из супругов, если судом установлено, что все, полученное по обязательствам одним из супругов, было использовано на нужды семьи. При недостаточности этого имущества супруги несут по указанным обязательствам солидарную ответственность имуществом каждого из них. Направьте на имя супруга телеграмму, в которой укажите:

1. Запрещаю без моего письменного согласия заключать сделки, связанные с возникновением долга.

2. Требую в течение 1 месяца после получения настоящей телеграммы заключить и нотариально удостоверить соглашение о разделе общего имущества, существенным условием которого является «денежные средства, полученные по договору займа или иной сделке, связанной с возникновением долга, заключенной без письменного согласия другого супруга, являются личной собственностью супруга, заключившего такую сделку. Другой супруг ответственности по такой сделке не несёт».

Проследите, чтобы муж получил телеграмму и расписался за неё. Сохраните квиток с почты с текстом и данными об отправке.

Если муж откажется заключить такое соглашение, обращайтесь в суд.