Если вы производили покупку в долларах с рублевого счета, и осуществляли конверсию денежных средств по курсу банка, то банк в первом случае производил операцию покупки рублей и продажи долларов, во втором случае обратную операцию.
Кроме того, если у вас была карта MasterCard или Маэстро, то скорее всего проводилась еще дополнительная операция по конвертации в валюту биллинга (платежной системы), то есть евро. При этом евро могло быть валютной биллинга и в случае карты Visa, просто это бывает реже.
Кто платит комиссию за конвертацию, указано в вашем договоре.
В этой ситуации «отмена операции» возможно не является отменой операции, а является двумя операциями — по перечислению вами денежных средств магазину (потери при конвертации) и по перечислению магазином денежных средств вам обратно (также потери по конвертации).
Соответственно банк «вернул» на вашу карту вторую сумму, которая образовалась из денежных средств, перечисленных вам магазином. А не «отменил» операцию, что возможно только до ее проведения.
Если имела место именно отмена операции, то банк, конечно, обязан был не проводить операцию, при этом средства не были бы перечислены с вашего счета на счет магазина.
Но в данном случае скорее всего имело место две операции. Оплаты и возврата денежных средств магазином.
И соответственно потери ваши — не от перевода рублей в доллары и обратно по курсу ЦБ РФ, а от конвертации (возможно двойной — из валюты счета в валюту биллинга и из валюты биллинга в валюту операции) денежных средств при двух операциях — прямой и обратной по курсу банка и платежной системы. Они и будут составлять около 5%
Для корректной квалификации — необходимо смотреть вашу выписку по счету, договоры счета и договор с магазином.