В России начала работу система поиска запрещенного контента в интернете

В планах разработчиков добиться в дальнейшем того, чтобы "Окулус" смог автоматически выявлять запрещенные материалы в сложных рукописных текстах и рисованном контенте, пишут "Ведомости". По словам представителя подведомственного Роскомнадзору ФГУП ГРЧЦ, информационная система уже запущена и выполняет возложенные на нее задачи в полном объеме. Система была протестирована в декабре 2022 года, а в следующем месяце начался процесс интеграции системы с другими инструментами мониторинга службы по надзору в сфере связи.

"«Окулус» автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и другие", – пояснили "Ведомостям" о направлениях работы системы.

Кроме того, в ГРЧЦ объясняют необходимость использования автоматизированного поиска запрещенного контента агрессивно растущим потоком материалов в интернете неподобающего характера. Отмечается, что систему в основном обучали вручную, где в среднем операторы обрабатывали 106 изображений и 101 видео в день. Сам "Окулус" будет анализировать более 200 тыс. изображений в сутки.

Как сообщал Profile.ru, запуск системы поиска противоправного контента в изображениях и видеозаписях в интернете ожидался в 2022 году. Размещенный тендер на разработку техзадания для системы оценивался в 15 млн руб. Работа системы осуществляется на основе искусственного интеллекта, что в перспективе должно повысить эффективность обнаружения неправоправных материалов.

"Окулус" – система, предполагающая выполнение ряда задач по классификации изображений и видеороликов по заданным требованиям, включающим основные типы запрещенного контента. Система функционирует как классификатор с заданным набором источников информации, где происходит анализ контента на предмет соблюдения или несоблюдения требований закона РФ. Разработчиком "Окулуса" выступила компания Execution RDC.