Как и зачем отличать ботов от людей. Отвечают теоретик медиа, админ паблика и гострайтер

На публикации Юга.ру в соцсетях регулярно отвечают залпами однообразных комментариев. Поскольку они транслируют одну (обычно провластную) позицию, их легко заподозрить в обслуживании чьих-то интересов. Мы обсудили это с теоретиком медиа, гострайтером фальшивых аккаунтов и админом городской сети пабликов.

С середины 2010-х в русскоязычном интернете регулярно публикуют и активно читают статьи о том, как отличать ботов от людей в соцсетях. Это и поверхностные советы по SMM для любителей, и обзоры с конкретными примерами. Или опыт программиста, который решил написать бот-фильтр.

Зачастую все сводится к здравому смыслу и интуиции — профиль собеседника должен выглядеть правдоподобно: реалистичные аватарки с лицом, активность друзей, живость содержания и ритма постов. Его общение не должно состоять из шаблонных фраз, написанных грамматически идеально, абстрактно и без личных деталей.

Но правдоподобные и уникальные изображения можно создавать с помощью deep fake, а тексты поручить живым гострайтерам. В потоке генерируемых таким образом аккаунтов есть свои звезды — цифровые модели с разработанными характерами набирают от нескольких сот тысяч до миллионов подписчиков с 2016 года. Они рекламируют известные бренды и даже жалуются на домогательства таксистов, что, впрочем, не находит сочувствия у аудитории.

В РФ очередной виток интереса к политическим ботам случился в ноябре, когда люди выступили против принуждения к вакцинации с помощью QR-кодов. Причем если раньше ботами называли провластные силы, то здесь бот-атакой стали объяснять тысячи гневных комментов в соцсетях у чиновников, например у Володина.

Об этом зигзаге и о ботах вообще редактор Юга.ру Александр Гончаренко поговорил с доцентом департамента медиа Высшей школы экономики Полиной Колозариди, соосновавшей «Клуб любителей интернета и общества».

Почему люди все чаще называют друг друга ботами?

— Бота легко перепутать с троллем — человеком, который ведет себя неадекватно социальной ситуации. Но когда пользовательницу преследуют десятки однообразных комментариев, едва ли она будет разбираться — бот это или тролль. В любом случае по однообразию комментариев или фраз можно составить суждение о том, что имеешь дело с пропагандой или рекламой.

В нынешних реалиях РФ заказчиком бот-атак может быть кто-то кроме властей?

— Конечно, бот-атаки — дело не только государств. Соцсети полны ботов, которые рекламируют все что угодно — от матрасов до благотворительности. Правда, это не называют атаками, да и к рекламным ботам многие уже привыкли.

Как боты формируют общественное мнение? Давайте проследим цепочку, по которой сообщение бота превращается из продукта медиа- и политтехнологов в личный опыт в форме «я где-то слышал, что...»

— Бот — это программа. Они делают нечто похожее на то, что делают люди: отвечают на вопросы, присылают письма, пишут комментарии и т.д. Беспокойство о ботах похоже на страх роботов — а в какой момент мы с ними сливаемся, перестаем быть людьми? Или они оказываются людьми? Короче говоря, это беспокойство о статусе человека.

Строго говоря, в работе бота довольно многое заложено человеком. Люди помещают в ботов фразы, которые нужно сказать, или составляют расписание рассылок. В результате перед глазами получателя рассылки или автоматического комментария оказывается автор-нечеловек. Но определить это наверняка сложно. Ведь действия и фразы ботов делают их похожими на людей.

Нужно ли вообще развивать навык различения бота и человека? Я не уверена. Во‑первых, за ботами всегда есть люди. Во-вторых, навыки создателей ботов быстро совершенствуются, и пока они опережают навыки распознавателей ботов. Важнее подумать о том, что именно значит для нас статус собеседника.

Например, в ситуации, где боты пишут множество комментариев, они ведь не придумывают эти слова. И например, если мы видим много однообразных комментариев, то можем подозревать, что их написали не люди. Но важнее подумать о том, почему и зачем кто-то запустил эту программу. И не обязательно со злым умыслом — это может быть реклама вполне полезных вещей и услуг.

В каких темах боты будут успешны с большей вероятностью? Или им все равно — важна грамотная настройка алгоритмов и выбор горячей полемики?

— Разницы нет, и не обязательно, чтобы была именно полемика. Боты могут просто рассказывать о чем-то, отвечать на вопросы.

Что было аналогом интернет-ботов в доцифровую эпоху? Фабрикуемые редакциями «письма читателей»?

— Боты делают то, что делали люди, и офлайновый аналог ботов — это роботы. Всем известные аналоги говорящих ботов — это объявления в автобусе или метро «Осторожно, двери закрываются, следующая остановка — Южная».

Правда, сейчас мы называем ботами интерактивные программы — они реагируют на то, что пишут им люди. Тут боты скорее продолжают клерков, то есть автоматизируют труд людей, общающихся с людьми. Ведь они тоже общаются по протоколу и нацелены на вполне определенные задачи (например, выдать вам банковскую карту или записать в поликлинику). Здесь боты заменяют людей так же, как станки заменяли рабочих в XIX–XX веках. Конечно, боты оказываются более гибкими, и их используют не только в индустрии или госуправлении.

Под видео Навального о дворце были популярны комменты, которые не скрывали свое сугубо техническое назначение, например: «Комментарий для продвижения в тренды». Те, кто оставлял их всерьез, рассчитывал на то, что активность в комментах повышает охват поста и его выдачу в рекомендациях другим людям (допустим, это сработало — сейчас ролик посмотрело более 120 млн). Как еще интернет заставляет реальных людей вести себя подобно ботам? Почему это происходит?

— Люди и боты не черное и белое. Все мы делаем рутинные операции и говорим ритуальные фразы. Чистим зубы, автоматически здороваемся и прощаемся. Совершенно закономерно, что в онлайн-практиках тоже есть такие ритуальные фразы, которые похожи на роботические.

У меня мало денег и нет навыков программиста, но я хочу атаковать ботами чей-то пост. Что для этого делать?

— Задуматься над тем, зачем это делать.

Тогда вернемся на шаг назад — люди хотят отличать ботов от людей в сети. Может, это симптом куда большей проблемы — не исходит ли желание верифицировать интернет-общение из нехватки живых бесед?

— Нет, дело не в живых беседах: улицы городов полны людей, с которыми можно говорить, в интернете их тоже хватает. Как я сказала выше, боты заставляют беспокоиться о том, где граница машинного в самом человеке и окружающих. Нередко так говорят и друг о друге: «она как будто зомбированная пропагандой» или «рекламы насмотрелся». Мы не всегда различаем, где в наших словах влияние нашего образования, телевизора или соседки Агаты. Вроде как боты — это чистая технология, но говорят-то они человеческим голосом. Эта проблема различения людей и нелюдей очень старая, но сейчас новый виток, так как изменилась технологическая оснастка. Постепенно различия станут понятнее, и тревога переключится на новые объекты.

О том, как строится работа проплаченных комментаторов, редактору Юга.ру анонимно рассказала сотрудница американской компании.

— Я работала копирайтером в компании, которая собирала команды комментаторов для американского интернета. Заказы различались по объему и направлениям. Был небольшой заказ на комменты в пользу медицинской операции, вызвавшей разногласия в Америке. Еще были небольшие заказы, связанные с фармацевтикой и аграрными удобрениями.

Потом пришла большая криптовалютная компания с долгим проектом во всех соцсетях. Поскольку к этой сфере более пристальное внимание и пользователям легче вычислить фальшь, все это требовало тщательной стратегии и согласованных действий, как в Warcraft, — кто, что и где должен сказать. Мы тоже запускали противоречия, мол, а вон тот комментарий куплен.

Каждый день нам закидывали дайджест со ссылками на посты и указаниями, что и как мы должны там обсуждать. Над этим проектом нас работало 15 человек, в день каждый постил порядка 50 комментов (в политических кампаниях, интересующих тебя, вероятно, работают команды крупнее вдвое или втрое). У нас основной упор делали на твиттер, так как это максимально правдоподобное место для того, чтобы люди легко постили там свои мнения. Но приходилось комментить и вообще невнятные статьи на сайтах просто с новостным конструктором.

Много времени занимало создание правдоподобных аккаунтов. Нам скидывали zip-архивы с текстовыми файлами, в каждом — огромный список логинов-паролей. Срабатывают они 50/50. Дальше думаешь: этот чувак уже не подросток, такой basic парень, ему крипта интересна, он там что-то услышал об этом. И подписываешься на тачки, Эмрату [модель Эмили Ратаковски — прим. ред.] и еще пару моделей или актеров, делаешь левые репосты и потом невзначай вкидываешь что-то одобрительное о компании-заказчике.

Комментарии надо продумывать, с одной стороны, от разных людей, чтобы они обладали индивидуальными стилями и интонациями. С другой — отличаться должны и отдельные комментарии: здесь пишешь без пунктуации, там — кричишь капсом а-ля женщина 45 лет «позовите менеджера», а тут — спокойный нейтральный тон в духе «все равно, что вы тут обсуждаете, я о другом спросить пришел».

Иногда желание разнообразить интонации может сыграть злую шутку — и ты оставляешь коммент стилистически броский, но неуместный именно в этом треде или флейминге. Например, заходишь в фан-группу Ланы Дель Рей со смайликами из 2007-го, «приффки» и «го общацца». Или школьник, едва научившийся печатать, вряд ли пойдет в дискуссию о QR-кодах. В обоих случаях реакция будет: «А что ты здесь забыл?»

Все свои комменты ты скринишь. Их отсматривают менеджеры и указывают, где ты поставила запятую как-то не так, как ее поставил бы американец: «Палевно, удали».

Сейчас большинство комментариев на продающих сайтах кажутся мне, мягко говоря, подозрительными. Как минимум потому, что среднестатистический человек не будет тратить столько усилий, чтобы восторгаться шампунем, а потом обзывать того, кому он не понравился.

Также Юга.ру предложили поделиться своим опытом администраторов «Туподара» — городской сети пабликов. Они рассказали о многолетних наблюдениях за ботами в своих соцсетях.

— История ботоводства на Кубани насчитывает более десяти лет. В нулевые это были плохо организованные набеги на какие-нибудь комментарии, где нужно было кого-нибудь поддержать. Но названия «бот» не было, предпочитали традиционное «тролли». Сейчас эти жанры четко разделены: бот — это настоящий (ро)бот, программа; тролли — это живые люди, за деньги или интерес убивающие обсуждения и нападающие на комментаторов. Вторых все меньше, так как они гораздо дороже.

Обычно это были рейды из какого-нибудь учреждения на вполне конкретный пост, новость или топик. Заканчивались они сразу после отчета руководству об участии. В 2007–2009 годах активные сливы пасквилей и оскорблений устраивались на региональных сайтах и, разумеется, в центре Кубнета того времени — форуме на Кубань.ру. Мне удавалось лично установить конкретных участников отдельных событий, работников СМИ. Кому-то явно стыдно за то, что они делали. Своими поступками сейчас некоторые будто пытаются искупить вину.

Коммерческие ботофермы при этом почти не пользуются спросом нигде в мире: их применение — удел школьников, пытающихся впечатлить друг друга накрученными подписками или обмануть первых клиентов в SMM.

Ближе к 2010 году в Москве догадались, что интернет влияет на умы, и появились первые всероссийские сети троллей. Одну из них вскрыл журналист Евгений Титов из «Новой газеты» — он опубликовал слитую рабочую переписку троллей и нашел конкретных людей и следы их деятельности в кубанском интернете. Почти все они оказались сотрудниками госучреждений. Эту сеть быстро свернули, и началась история всемирно знаменитой фабрики профессиональных троллей из Ольгино.

Ботов, вроде тех, например, что накручивали подписки в твиттере бывшего губернатора Ткачева, можно вообще в расчет не брать: это просто одноразовый мусор и ошибка. [В 2013 году программист Антон Анисимов проанализировал бот-активности в твиттерах российских чиновников, Ткачев попал в топ-5 с наименьшим процентом живых подписчиков — 35,84% — прим. ред].

И тогда, и сейчас отличить их от обычных людей довольно просто — участвовать в обсуждениях они по-прежнему не умеют. Не попадают в контекст, не имеют аргументов и конкретики, используют однотипную риторику и/или ключевые фразы. Живые тролли, понятно, просто выбирают жертвой лидеров мнений и остервенело вцепляются в них, лишь изредка и ненадолго пытаясь имитировать интеллигенцию. Получается редко.

Познакомиться с троллем сегодня сложно: почти все понимают, что это постыдное занятие, и признаваться в таком не принято. Плюс работодатели заключают соглашения о неразглашении.

Сейчас «Туподар» испытывает на себе поползновения двух (возможно, трех) ботоферм. Региональных среди них, похоже, не осталось — это дорогое занятие и наверняка на уровне Федерации за это платят лучше. Изредка по хештегам и ключевым словам залетают и ольгинские, но никакой системы в их действиях нет.

Ежедневно в постах нашего телеграм-канала по ключевым словам боты (это точно не люди) оставляют три-пять комментариев, оправдывающих любые результаты властей: от плохого транспорта до пыток в учреждениях ФСИН. Боты постоянно ошибаются с тематикой и оставляют комментарии, никак не связанные с темой, никогда не привязываются к месту, не отвечают на вопросы и пишут что-то вроде «Вот у нас в городе все хорошо». У них нет ников и всегда полные человеческие имена — видимо, так их пытались сделать более настоящими.

Их комментарии всегда явно заготовлены заранее, они размыты и всегда одинаковы по смыслу: власти все делают правильно, давайте сомневаться в словах критикующих и критиковать их. Если заготовленных комментариев нет или скрипт не распознал тематику, то боты ничего не пишут.

У нас две версии: либо кто-то тренирует на наших публикациях ботоферму (возможно, на базе какой-то довольно глупой нейросети), чтобы потом продать этот продукт. Либо мы просто попали в какой-то контракт по наводнению любых обсуждений в рунете любыми комментариями, чтобы порождать в массах сомнение. Возможно, кто-то думает, что таким образом может управлять общественным мнением или причинять вред оппозиции. По числу введенных в последние годы инструментов цензуры и ограничений свободы слова ясно, что это давно не работает. В пользу второй версии говорит тот факт, что мы видели таких же ботов в других узкотематических и популярных телеграм-каналах, но не связанных с Кубанью.

Самое важное: боты из комментариев не несут практически никакой опасности, кроме потери трафика и траты времени на общение с дурной программой.

Намного опаснее боты, которые участвуют в интернет-опросах органов власти, онлайн-голосованиях, оставляют отзывы к публичным слушаниям и проектам нормативно-правовых актов. То есть фальсифицируют «широкий общественный интерес» и «запрос снизу». Имитируя общественность, они до зависти организованно и невероятно легко влияют на принятие решений, формируют правовые рамки и обосновывают вполне конкретные ограничения для живых людей. Стимулируют решения о строительстве и перенаправление денег на конкретные проекты, отказ от невыгодных кому-то решений и т.п.

Один из ярких примеров — как при голосовании на сайте мэрии за выбор места для строительства парка «победил» пустырь на Садовой (полагаем, благодаря многочисленным студентам соседнего университета и мудрому руководству ими). Почти у всех знакомые просили «просто зайти и проголосовать через госуслуги» за что-то с виду нелепое или неважное, а на деле — прямо влияющее на политическую жизнь в стране и на траты вполне конкретных, в том числе государственных, денег. Примеры похуже можно поискать в отзывах на публичных онлайн-слушаниях, например, по проектам федеральных законов или экологически вредных производств. К сожалению, практически всегда мы видим их как коррупционно емкие.

Как бороться с этими тихими, но особо вредными акторами, пока непонятно. Возможно, они будут определять нашу жизнь десятилетиями. Это большой вызов для страны и интернета, который отнимает анонимность у людей, но дарует ее ботам.