Через какое время после закрытия ИП могут высчитывать задолженность?

Пени начисляются именно за период просрочки. Так что если вы оплатили с минимальной просрочкой, то и пени будут незначительными. Начислять могут, это право закреплено в статье 25 закона 212 ФЗ «О страховых взносах...»

И как писал до этого — срок давности не установлен, пеню придется платить. А вот штрафы — можно оспорить, но шансы незначительны. Как говорится «не знание законов не освобождает от ответственности».

Статья 25. Пени
1. Пенями признается установленная настоящей статьей денежная сумма, которую плательщик страховых взносов должен выплатить в случае уплаты причитающихся сумм страховых взносов в более поздние по сравнению с установленными настоящим Федеральным законом сроки.
2. Сумма соответствующих пеней уплачивается помимо причитающихся к уплате сумм страховых взносов и независимо от применения мер ответственности за нарушение законодательства Российской Федерации о страховых взносах.
3. Пени начисляются за каждый календарный день просрочки исполнения обязанности по уплате страховых взносов начиная со дня, следующего за установленным настоящим Федеральным законом сроком уплаты сумм страховых взносов, и по день их уплаты (взыскания) включительно.
4. Не начисляются пени на сумму недоимки, которую плательщик страховых взносов не мог погасить в силу того, что по решению суда были приостановлены операции плательщика страховых взносов в банке или наложен арест на имущество плательщика страховых взносов. В этом случае пени не начисляются за весь период действия указанных обстоятельств.
5. Пени за каждый день просрочки определяются в процентах от неуплаченной суммы страховых взносов.
6. Процентная ставка пеней принимается равной одной трехсотой действующей в эти дни ставки рефинансирования Центрального банка Российской Федерации.
7. Пени уплачиваются одновременно с уплатой сумм страховых взносов или после уплаты таких сумм в полном объеме.
8. Пени могут быть взысканы принудительно за счет денежных средств плательщика страховых взносов на счетах в банке, а также за счет иного имущества плательщика страховых взносов в порядке, предусмотренном для взыскания недоимки по страховым взносам.
9. Не начисляются пени на сумму недоимки, которая образовалась у плательщика страховых взносов в результате выполнения им письменных разъяснений о порядке исчисления, уплаты страховых взносов или по иным вопросам применения законодательства Российской Федерации об обязательном социальном страховании, данных ему либо неопределенному кругу лиц органом контроля за уплатой страховых взносов или другим уполномоченным органом государственной власти (уполномоченным должностным лицом этого органа) в пределах его компетенции (указанные обстоятельства устанавливаются при наличии соответствующего документа этого органа, по смыслу и содержанию относящегося к расчетным (отчетным) периодам, по которым образовалась недоимка, независимо от даты издания такого документа).
10. Положение, предусмотренное частью 9 настоящей статьи, не применяется в случае, если указанные письменные разъяснения основаны на неполной или недостоверной информации, предоставленной плательщиком страховых взносов.