Роботы-депутаты, роботы-доносчики, чемпионы мира. На что способен искусственный интеллект?

В сентябре на фестивале Geek Picnic в Краснодаре прошла лекция Ивана Ямщикова «Как поговорить с алгоритмом?» Ямщиков — научный сотрудник Института Макса Планка, AI-евангелист компании ABBYY, специализирующийся на принципах работы машинного интеллекта.

В 2016 году, будучи сотрудником «Яндекса», Ямщиков вместе со своим коллегой Алексеем Тихоновым выпустил альбом «Нейронная оборона», состоящий из песен, тексты к которым в стиле Егора Летова написал робот. Сочинением музыки и исполнением песен занимались сами авторы проекта.

Портал Юга.ру поговорил с Иваном Ямщиковым о том, зачем разговаривать с алгоритмами, о творчестве машин, о внедрении искусственного интеллекта в разные сферы человеческой жизни и связанных с ним проблемах, а также о том, сможет ли «Алиса» заменить депутата Государственной Думы.

Ваша лекция на Geek Picnic называлась «Как поговорить с алгоритмом?» Давайте про «как» поговорим чуть позже, а начнем с того, зачем нам сегодня говорить с алгоритмами?

— Дело в том, что сегодня создание способов, алгоритмов, технологий, которые бы позволяли человеку взаимодействовать с машинами на естественном языке, — это одна из самых интересных и перспективных областей искусственного интеллекта.

Во-первых, нам проще всего передавать информацию при помощи языка. Мы не придумали лучшего способа взаимодействовать с разумными объектами и вообще с окружающим миром, когда речь идет об интеллектуальных задачах.

Во-вторых, интуитивно кажется, что разумность сильно связана с естественным языком. Все существа, которые нам интуитивно кажутся разумными, в природе как‑то коммуницируют. И обычно они коммуницируют на чем-то, что можно назвать аналогом естественного языка.

Соответственно, если мы хотим создавать технологии, способные на более универсальные задачи, чем прикладной искусственный интеллект, то мы должны создавать алгоритмы, которые понимают и работают с естественным языком.

Машинное обучение — крайне перспективная, активно развивающаяся область. Что сейчас в ней происходит?

— Да, в этой области сейчас ведется много исследований и появляются результаты, которые кардинально улучшают качество решения тех или иных задач. Один из хрестоматийных примеров — использование глубоких нейронных сетей в алгоритмах машинного перевода. После этого внедрения качество перевода резко улучшилось — прямо скачком. Речь не идет о том, что мы немножко все улучшали 20 лет и теперь еще немного доработали на одну сотую процента. Речь идет о том, что инженеры выкатили новый алгоритм, условно говоря, ночью — и уже на следующее утро пользователи могли заметить, что качество резко выросло. И во всей области машинного обучения такие результаты периодически есть.

И еще довольно много интересных результатов, связанных с тем, что называется обучение с подкреплением. Это когда у нас есть алгоритм, который мы вознаграждаем за хороший результат. Важно, что вознаграждение происходит не после каждого действия, у алгоритма нет постоянной обратной связи о его работе. Вознаграждение происходит в отдельно взятые моменты. Пример — проект AlphaZero, алгоритм компании Google, который обыграл чемпиона мира по го. Он обучался именно так, играя сам с собой и получая вознаграждение в случае победы.

Другой интересный пример, связанный с обучением с подкреплением, — история компании OpenAI. Год назад она создала бота, который смог один на один обыграть одного из лучших игроков в DotA. А чемпионат этого года показал, что в командной игре машины выиграть пока не могут. Когда в этом году против их команды играла команда киберспортсменов мирового уровня, боты проиграли. Первую половину встречи они лидировали, а потом, начиная с середины игры, у них, что называется, начало все валиться из рук. Они плохо координировались между собой. С течением времени стало заметно, что у них нет какой-то глобальной продуктивной идеи — того, что они хотят сделать и как именно хотят выиграть. Это интересный результат, и он нас снова возвращает к проблеме естественного языка. Он показывает, что когда задачи требуют координации действий нескольких участников процесса, то на текущем этапе алгоритмы справляются с такого рода вещами значительно хуже, чем люди.

А если говорить про ту же «Алису»? В чем сейчас основная проблема коммуникации с ней?

— Главная проблема в том, что алгоритмы неплохо научились поддерживать диалог, но только если эта беседа не требует длительного взаимодействия и понимания контекста. То есть когда разговор состоит из двух-трех фраз и это бытовые вопросы, то технологии уже сейчас неплохо справляются. Но если вы попробуете поговорить с алгоритмом чуть дольше, то вы можете обратить внимание, что его память похожа на память аквариумной рыбки. Если с человеком вы можете, например, обсудить погоду в Краснодаре, потом поговорить о чем-то еще и вдруг сказать: «Да, три года назад было тепло», и человек поймет, что вы вернулись к теме, которую обсуждали 10 минут назад, — то алгоритм пока этого делать не может. На это есть масса причин, обойти эти ограничения разработчики пока не могут, но это интересное направление исследований.

Тем не менее искусственный интеллект уже может заниматься творчеством. Вы являетесь соавтором проекта «Нейронная оборона». Расскажите о нем. Как вы к нему пришли и какой опыт извлекли из всего этого?

— У моего друга Леши Тихонова был проект «Автопоэт» — генератор стихов на основании поисковых запросов. Потом в какой-то момент он прикрутил к нему нейросетки, и мы поняли, что хотим записать альбом и показать людям, что искусственный интеллект может писать стихи, и иногда даже неплохо. Нам показалось, что в качестве целевого автора надо брать Егора Летова. По целому ряду причин. Во-первых, мы сами его любим. Во-вторых, такого рода тексты наш алгоритм сможет воспроизвести. В-третьих, мы поняли, что Егор Летов написал довольно много стихов, а все алгоритмы статистического обучения требуют, чтобы у вас был большой объем данных. Так мы выбрали Егора Летова. Нагенерировали стихов, отобрали те, которые нам кажутся наиболее интересными, а дальше записали музыку, спели и опубликовали. Потом мы сделали подобный проект и на английском языке — Neurona, где целевым автором был Курт Кобейн.

Говорить, что это именно творчество, довольно сложно. Творчество — это сложный процесс, в котором не всегда четко определены многие вещи, поэтому мы говорим, что это не творчество, а некоторые творческие приложения искусственного интеллекта. И мне кажется правильным считать это первыми попытками использовать искусственный интеллект в творческом процессе. Но говорить здесь о творчестве в человеческом понимании я бы не стал. Я понимаю творчество как создание чего-то принципиально нового.

Но все же в ваших проектах искусственный интеллект учится писать стихи по лекалам человеческой поэзии. А вот в издательстве «Транслит» недавно вышел сборник экспериментальной и, на мой взгляд, уже нечеловеческой поэзии «Лактат Гагарина», составленный философом Михаилом Куртовым. «Лактат Гагарина» — это собрание текстов из дорвеев (веб-страниц с автоматически сгенерированным текстом, созданным для повышения посещаемости рекламных сайтов). Они предназначены не для потребления человеком. Адресат дорвеев — это метод ссылочного ранжирования компании Google. Может, это и есть новое творчество, не ограниченное скудными человеческими представлениями?

— Я об этом сборнике не слышал, но идея создания стихов на основании такого материала — очень прикольная и интересная. Загвоздка в том, что алгоритмы такую идею сами сформулировать не могут. То есть заявить, что такие тексты — это поэзия, и сделать из них поэтический сборник алгоритмы не могут. Для этого нужны люди. Например, философ Михаил Куртов.

Но я полностью поддерживаю идею, чтобы алгоритмические и математические инструменты использовались людьми для творческих задач. Сегодня художник не обязательно должен использовать кисть и краски, он может рисовать на iPad или, допустим, создавать паттерны для своего проекта с помощью алгоритма, рассчитывающего траекторию хаотического маятника. Или применять нейронные сети, генерировать изображения или текст. Или использовать алгоритмы, которые созданы для того, чтобы обходить системы ранжирования компании Google и делать из их текстов стихи. Это все я воспринимаю как инструменты, используемые человеком, которому в голову пришла идея того или иного художественного высказывания.

Хорошо, с творчеством и искусством понятно. В каких еще сферах искусственный интеллект помогает человеку сегодня?

— Во все сферы, где нужно думать не творчески, а решать рутинные задачи, искусственный интеллект будет входить неизбежно. Есть два критерия для внедрения искусственного интеллекта. Первый: работа делается людьми, но воспринимается ими как скучная или трудоемкая. Ее, скорее всего, можно автоматизировать, и от этого не будет никакого вреда, только польза. Качество работы повысится, а люди смогут заниматься тем, чем им заниматься интереснее. То есть это польза с точки зрения личностного роста сотрудников и эффективности бизнеса.

К примеру, у нас в ABBYY есть решение, связанное с анализом документов для банков. Например, когда в банк приходит клиент, юридическое лицо, и хочет взять большой кредит, нужно быстро перелопатить огромный объем информации — проверить деловую репутацию контрагента по новостям в открытых источниках и отраслевых базах, убедиться, что компания не фигурирует в решениях судебных инстанций. Все это нужно, чтобы понять, стоит ли работать с этим партнером или нет. Это огромный массив документов, который люди будут обрабатывать очень долго, медленно и совершая ошибки, ведь для человека эта работа просто скучная, а алгоритм с ней прекрасно справляется.

Второй критерий: это может быть задача сложная и интересная для людей, но объем данных, которые нужно проанализировать, сильно превышает тот, который может обработать человек за короткое время. Так бывает, к примеру, в случае с логистическими или промышленными задачами. Очень часто для адекватного анализа времени задержки самолета в аэропорту человеку необходимо намного больше времени и данных, чем алгоритму. Другой пример — поиск информации внутри компании, например, чтобы создать новый продукт или сервис. Зачастую документы находятся в разных базах, системах, и никто не знает, как их найти. ИИ помогает собрать важное даже по обрывкам информации за доли секунды. Два этих простых критерия достаточно четко описывают области, в которых искусственный интеллект либо уже применяется, либо внедряется, либо будет использоваться в ближайшее время.

А что, например, с политикой? Может ли та же «Алиса» в ближайшие годы заменить депутатов Госдумы? Или хотя бы нашего ЗСК?

— Работа депутата далека от рутинной, поэтому искусственный интеллект вряд ли полностью может взять на себя эту роль. А вот автоматизировать рутинную бюрократию с помощью технологий интеллектуальной обработки информации можно и нужно, на мой взгляд. И это уже делается. Посмотрите на автоматизацию разного рода процессов, которая стала возможна благодаря «Госуслугам» или многофункциональным центрам. Я думаю, со временем таких инициатив будет больше.

Кроме того, есть разного рода проекты «умных городов», когда государственные службы за счет анализа данных улучшают жизнь граждан, сокращают время получения номеров на автомобиль или нового паспорта. Использование машинного обучения для автоматизации закупок тоже очень актуальная тема: если мы можем использовать алгоритмы, чтобы работать с конкурсной документацией, выбирать лучших подрядчиков и снижать стоимость закупок, то это правильная идея. Это сейчас происходит не только в России, но и в мире. И будет лишь развиваться со временем.

Но есть во внедрении искусственного интеллекта и негативные моменты. Взять те же истории с беспилотными автомобилями, которые уже не раз приводили к смерти пассажира. Как вообще искусственный интеллект должен решать «проблему вагонетки»?

— Пока нет четкого определения, кто несет ответственность за ошибку искусственного интеллекта. Именно поэтому, например, системы, которые сегодня применяют для медицинской диагностики, врачи используют только как советника, к мнению которого можно прислушаться или нет. Это во многом, как мне кажется, сделано для того, чтобы снизить риски. Ведь в конечном счете ответственность за принятое решение несет человек.

Автомобили — интересная ситуация. Я на лекции приводил пример: у MIT Media Lab есть проект Moral Machine, где они собирают статистику. Они предлагают людям ситуацию, в которой точно кто-то должен погибнуть. В первом случае, например, бабушка, которая переходит дорогу, а во втором — ребенок, который сидит в вашей машине. И они собирают ответы людей по всему миру, спрашивают пол, возраст и регион проживания опрашиваемого. И ответы разнятся в зависимости от региона. Есть регионы, в которых старость ценят выше молодости, где женская жизнь ценится дороже мужской и наоборот. Для того, чтобы уменьшить количество этических проблем, нам нужно четко понимать, как устроены моральные предпочтения жителей той или иной части мира, где используются технологии, и действовать так, как действуют люди. Это мне не кажется оптимальным решением, но другого понятного решения пока нет.

Российско-французский философ Алексей Гринбаум в своей книге «Машина-доносчица. Как избавить искусственный интеллект от зла» предлагает такое решение: так как в этой ситуации любое решение неизбежно будет этически маркировано как «злое», то необходимо обратиться к случайности — к тому, чтобы моральные решения принимались согласно броску костей.

— Да, я знаком с теорией Гринбаума и даже с ним лично. Но не во всем с ним согласен. В жизни происходит много случайностей. Например, мы случайно заболеваем в связи с наследственностью. Это никак от нас не зависит, просто это заложено в нашей ДНК. Однако человек не считает эту случайность справедливой. Решение, в котором случай является высшим арбитром, заманчиво своей простотой и интеллектуальным изяществом. Более того, любой человек, который работает с искусственным интеллектом, такое решение может внедрить. Однако это не снимает морально-этической проблемы.

Если самодвижущийся автомобиль с пассажиром на борту в случае опасной ситуации будет принимать решение путем «подбрасывания монетки» и это приведет к гибели кого-то из участников аварии, родственники пострадавшего не будут считать это решение справедливым. А ведь нужно попытаться создать решение, которое будет принято людьми как справедливое.

Главный плюс позиции Алексея мне видится в том, что такого рода решения довольно легко применять на практике. Однако я боюсь, что результаты будут диаметрально противоположны ожидаемому и это будет вызывать у людей больше раздражения, непонимания и чувства несправедливости.

Что скажете по поводу опасений, что развитие технологий и искусственный интеллект могут нас привести к таким антиутопиям цифровой диктатуры, что романы Оруэлла и Замятина будут казаться милой пасторалью. Взять хотя бы недавний репортаж «Медузы» про полицейское государство будущего в китайской провинции Синьцзян.

— Любые технологии — это просто инструмент. Как использовать его — решать в первую очередь нам, людям.