Социальная сеть «ВКонтакте» будет искать запрещенные изображения с помощью нейросети собственной разработки
Читайте также:
Нейросеть умеет определять предметы и сущности, изображенные на фото. Она имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм считает фото опасным, он отправляет его модераторам для проверки. Если фото признают умеренно опасным, оно пропадает из поисковой выдачи, в ленте новостей понижают его приоритет. Механизм призван остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг, пишут «Известия».
Для борьбы с суицидальным контентом придумали отдельный сценарий. Записи и фотографии на эту тему будут удалять автоматически, их авторов — блокировать. Если пользователь загружает картинку или ставит хэштеги, которые ранее использовали в качестве призыва к суициду, соцсеть блокирует страницу и предлагает сообщить о причинах публикации. На основании ответов будут определять, когда страницу разблокируют, пользователю могут предложить помощь психологов фонда «Твоя Территория» или советы по безопасности страницы.
Читайте также:
Алгоритм поможет сформировать новостную ленту по приоритету, максимально интересному пользователю. Присваивание классов нужно не только для удаления противоправных изображений, но и для формирования ленты пользователя с учетом его интересов. По данным «ВКонтакте», «умной» лентой пользуется 80% активных пользователей.
Технологию нейросетей сделали популярной приложения, превращающие фотографии в произведения искусства: Prisma от выходца из Mail.ru Group, Vinci от «ВКонтакте» и Artisto, которое редактировало видео.
