Здравствуйте.
1. Проблема в том, что порядок исполнения обязательств, в том числе регулирующий алгоритмы разрешения вот таких неопределенностей, как правило должны решаться в договоре.
Граждане и юридические лица свободны в заключении договора.
Условия договора определяются по усмотрению сторон, кроме случаев, когда содержание соответствующего условия предписано законом или иными правовыми актами (статья 422).
Статья 421 ГК РФ.
При этом хоть Вы пишете, что договор не был заключен, между Вами он фактически есть, а основное последствие в случае незаключения простого письменного договора установлено статьей 162 ГК
Несоблюдение простой письменной формы сделки лишает стороны права в случае спора ссылаться в подтверждение сделки и ее условий на свидетельские показания, но не лишает их права приводить письменные и другие доказательства.
Поэтому, как правило, факта оплаты и наличие переписки в мессенджере вполне достаточно.
2. Сейчас самое оптимальное — пытаться договориться между собой, как выходить из ситуации. Если компромисса Вы не достигнете, только суд сможет решать, как разрешать ситуацию. Поскольку Вы не предусмотрели между собой порядок разрешения такой неопределенности, руководствоваться суд должен будет положениями законодательства. И таких положений очень много и сказать, какое применит суд, невозможно.
Например, статья 716 ГК говорит, что
Подрядчик обязан немедленно предупредить заказчика и до получения от него указаний приостановить работу при обнаружении:
непригодности или недоброкачественности предоставленных заказчиком материала, оборудования, технической документации или переданной для переработки (обработки) вещи;
возможных неблагоприятных для заказчика последствий выполнения его указаний о способе исполнения работы;
иных не зависящих от подрядчика обстоятельств, которые грозят годности или прочности результатов выполняемой работы либо создают невозможность ее завершения в срок.
Подрядчик, не предупредивший заказчика об обстоятельствах, указанных в пункте 1 настоящей статьи, либо продолживший работу, не дожидаясь истечения указанного в договоре срока, а при его отсутствии разумного срока для ответа на предупреждение или несмотря на своевременное указание заказчика о прекращении работы, не вправе при предъявлении к нему или им к заказчику соответствующих требований ссылаться на указанные обстоятельства.
Если заказчик, несмотря на своевременное и обоснованное предупреждение со стороны подрядчика об обстоятельствах, указанных в пункте 1 настоящей статьи, в разумный срок не заменит непригодные или недоброкачественные материал, оборудование, техническую документацию или переданную для переработки (обработки) вещь, не изменит указаний о способе выполнения работы или не примет других необходимых мер для устранения обстоятельств, грозящих ее годности, подрядчик вправе отказаться от исполнения договора подряда и потребовать возмещения причиненных его прекращением убытков.
Скорее всего заказчик будет ссылаться именно на эту норму и укажет, что Вы не предупредили его о некачественной технологии установки стеклопакетов.
Сейчас нужно понимать, что именно говорит Вам заказчик, какова его позиция, и что Вы уже отвечали ему. Зафиксированы ли эти позиции в переписке или нет.
Но, как написал выше, общий алгоритм таков, что Вы либо договоритесь между собой, либо придется обращаться в суд.
Судебные перспективы не в Вашу пользу исходя из описанного Вами.
Если вернёте заказчику деньги не думаю что он пойдёт в суд признавать договор подряда заключенным и требовать от Вас его исполнения.