Нет, самостоятельно выселить сожительницу брата с помощью полиции в его отсутствие не получится.
Дело в том, что полиция не решает споры о праве на жильё — она может вмешаться только если человек явно посторонний и вселился самовольно. Если же между вами и этой женщиной есть родственная связь (даже если она сожительница вашего брата), полиция, скорее всего, не станет действовать: она расценит ситуацию как бытовой конфликт и отправит стороны решать вопрос через суд.
В вашей ситуации есть важный нюанс: квартира в общей долевой собственности (вы, брат и мама). Это значит, что у сожительницы может быть право пользования как у члена семьи одного из собственников. Если это так, то даже без прописки её нельзя просто так выгнать — нужно сначала через суд признать это право утраченным.
Что делать?
Сначала зафиксируйте нарушения. Антисанитария, употребление алкоголя и запрещённых веществ — это серьёзные аргументы. Вы можете зафиксировать факты (фото, видео, показания соседей) и обратиться к участковому. Он составит протокол, что поможет в дальнейшем при обращении в суд.
Подайте иск о признании утратившей право пользования жилым помещением. Это ключевой шаг. В иске нужно будет доказать, что у женщины нет законных оснований жить в квартире (нет доли, нет статуса члена семьи одного из собственников, нет договора, дающего право проживания). Если суд удовлетворит иск, тогда уже можно будет привлекать полицию (а фактически — судебных приставов) для исполнения решения.
Как альтернативный вариант отправить на лечение сожительницу по «схеме брата».