Предположим, я собираюсь создать сервис на базе текстового или графического ИИ?

Question

Здравствуйте. Предположим, я собираюсь создать сервис на базе текстового или графического ИИ? Где пользователь может по своему запросу создавать графический контент или вести чат с моделью ИИ. Вопрос в том, насколько необходима фильтрация NSFW контента, потенциально попадающего под 242 УК РФ. Что если тот будет генерировать себе картинки с голыми тетеньками-дяденьками (только себе) или вести эро-ролеплей? Пока клиент платит, не хотелось бы от него отказываться, но контент по его запросу создается моделью именно на нашей стороне, а затем отправляется в его браузер по интернету - разве не попадает ли это под распространение порнографии? С другой стороны, ИИ в этом вопросе инструмент и вряд ли было бы логично судить за подобное создателей какого-нибудь онлайн графического редактора или тому подобного. В итоге вопрос в том, является ли такая фильтрация порно контента абсолютно необходимой или можно ей избежать благодаря корректно составленной публичной оферте?

Иван Кошкин · Answer

Доброго времени суток. Кто в вашей модели будет отвечать за изготовление контента 18+?

Павел Попов · Answer

Здравствуйте! Да, фильтрация абсолютно необходима. Под действие ст. 242 УК РФ («Незаконные изготовление и оборот порнографических материалов») попадает именно распространение, которое начинается с момента создания (изготовления) контента на вашем сервере по запросу пользователя и передачи ему, даже в единственном экземпляре. Ваш сервис не нейтральный инструмент (как редактор), а активный участник изготовления. Публичная оферта, разрешающая или не запрещающая такой контент, не снимает уголовной ответственности, а, наоборот, станет доказательством умысла. Риски — блокировка сервиса и уголовное преследование владельцев.

Герман Амвросов · Answer

Здравствуйте, Михаил! Под распространением порнографических материалов в сети интернет в статьях 242, 242.1 УК РФ понимается незаконное предоставление конкретным лицам либо неопределенному кругу лиц возможности их использования (Постановление Пленума ВС РФ №37 от 15.12.2022 г.). В частности в Пленуме №37 обращено внимание судов на умышленность действий лица, которое должно осознавать содержание и общественную опасность действий по распространению порнографических материалов в сети интернет. , осознавало содержание и общественную опасность соответствующих действий, 23. Обратить внимание судов на то, что при квалификации преступлений, совершаемых с использованием электронных или информационно-телекоммуникационных сетей, включая сеть «Интернет», должно быть установлено, что лицо осуществляло такие деяния умышленно, осознавало содержание и общественную опасность соответствующих действий, включая характер распространяемой, рекламируемой или демонстрируемой информации, предоставление доступа к ней широкому кругу лиц, а также должны быть установлены другие обстоятельства, имеющие значение для юридической оценки содеянного Постановление Пленума ВС РФ №37 от 15.12.2022 г разве не попадает ли это под распространение порнографии? Нет не подпадает, как не будет и соучастия в распространении. Поскольку оно должно быть незаконным для изготовителя порнографии, а значит речь может идти только о прямом умысле разработчика на изготовление (генерацию ИИ) порнографических материалов. является ли такая фильтрация порно контента абсолютно необходимой или можно ей избежать благодаря корректно составленной публичной оферте? По моему мнению достаточно указать в публичной оферте, например на запрет генерации порнографических изображений