Покупка квартиры в ипотеку, которая досталась в наследство

А компенсацию? Они буду требовать её от нас?

нет, от наследников продавших вам квартиру.

Как указано в статье 302 Гражданского кодекса РФ:

1. Если имущество возмездно приобретено у лица, которое не имело права его отчуждать, о чем приобретатель не знал и не мог знать (добросовестный приобретатель), то собственник вправе истребовать это имущество от приобретателя в случае, когда имущество утеряно собственником или лицом, которому имущество было передано собственником во владение, либо похищено у того или другого, либо выбыло из их владения иным путем помимо их воли.

То есть даже если и будет предъявлен иск об истребовании у Вас квартиры, то Вам необходимо будет предъявлять встречный иск о признании Вас добросовестным приобретателем, приводить доводы и доказательства того, что Вы не знали и не могли знать о наличии других наследников.

Как указано в пункте 38 Постановления Пленума Верховного Суда РФ N 10, Пленума ВАС РФ N 22 от 29.04.2010 «О некоторых вопросах, возникающих в судебной практике при разрешении споров, связанных с защитой права собственности и других вещных прав»:

Приобретатель не может быть признан добросовестным, если на момент совершения сделки по приобретению имущества право собственности в ЕГРП было зарегистрировано не за отчуждателем или в ЕГРП имелась отметка о судебном споре в отношении этого имущества. В то же время запись в ЕГРП о праве собственности отчуждателя не является бесспорным доказательством добросовестности приобретателя.
Ответчик может быть признан добросовестным приобретателем имущества при условии, если сделка, по которой он приобрел владение спорным имуществом, отвечает признакам действительной сделки во всем, за исключением того, что она совершена неуправомоченным отчуждателем.
Собственник вправе опровергнуть возражение приобретателя о его добросовестности, доказав, что при совершении сделки приобретатель должен был усомниться в праве продавца на отчуждение имущества.

Вам нужно опровергнуть то, что могли быть какие-то сомнения при приобретении квартиры.

Как правило, для этого привлекают юристов, которые проводят проверку юридической чистоты сделки и дают своё письменное заключение. Это заключение впоследствии может служить в суде одним из доказательств того, что приобретатель является добросовестным, поскольку юрист при проверки сделки рекомендовал её к заключению.