Проект TEXTOX нацелен на решение проблем, связанных с увеличением деструктивной информации в РФ. В разрабатываемом SaaS-продукте будет осуществляться проверка данных за счет применения нейросетевых технологий и машинного обучения.
Создаваемый продукт представляет собой SaaS-платформу (модель предоставления программного обеспечения, при которой пользователи получают доступ к софту онлайн), направленную на поиск деструктивной информации в тексте с применением нейросети. Научной новизной проекта является разрабатываемый алгоритм Distructs AI для детектирования и защиты пользователя на основе семантического анализа. Сервис будет представлять собой Safe-слой (безопасный слой), обеспечивающий упреждающие меры.
По словам Кирилла Куринского, сценарий использования продукта включает в себя загрузку модели классификатора и выбор файла для проверки пользователем, анализ текста на наличие деструктивного контента, уведомление о наличии/отсутствии деструктивной информации. Заключительный этап – демонстрация текста с выделенной красным цветом деструктивной информацией в нем.
Потенциальная целевая аудитория проекта – молодые люди, работающие с текстовыми документами, родители, а также коммерческие и государственные учреждения, нуждающиеся в анализе большого объема информации.
По мнению руководителя проекта, с развитием информационных технологий и увеличением количества устройств у людей объем данных в год увеличивается примерно в полтора раза, что приводит к росту такого деструктивного контента, как призывы к нарушению закона, опасным действиям и пропаганде вредных привычек.
В 2022 году количество фейковой информации выросло в 6 раз. Социологические исследования показали, что порядка 13,5 миллионов подростков в РФ находятся под влиянием деструктивного контента в социальных сетях. Проблемные интервью показали, что 59% опрошенных поддержали создание простого и доступного сервиса для решения задачи.
Светлана Григорян, управление информационной политики
isdstu@mail.ru
