Здравствуйте. Если передача денег за аренду фиксировалась расписками, либо Вы перечисляли деньги по безналичному расчету, то можно лишь попробовать обязать заключить договор аренды в судебном порядке.
На мой взгляд, просрочка оплаты за аренду — 2 недели, не является существенным нарушением сроков арендной платы, поэтому не является основанием для выселения.
Проще, конечно, договориться с арендодателем, однако если Вы хотите, то можете попробовать в судебном порядке признать Ваше право на аренду и побудить заключить договор аренды в письменной форме.