Философ Анна Александрова: о моральных проблемах развития искусственного интеллекта

Уроженка Краснодара Анна Александрова, возглавившая проект по изучению философии и этики искусственного интеллекта, дала интервью порталу Юга.ру.

В октябре в Кембридже при участии британского астрофизика Стивена Хокинга открыли центр для изучения искусственного интеллекта. Научный комплекс Leverhulme Centre for the Future of Intelligence объединил усилия Кембриджского и Оксфордского университетов, Имперского колледжа Лондона, а также Калифорнийского университета в Беркли.

Директором первого проекта центра LCFI — Science, value, and the future of intelligence — стала уроженка Краснодара Анна Александрова, преподающая философию науки в Кембриджском университете. Задача этого проекта — оценка исследований искусственного интеллекта с точки зрения науки, этики, политики и философии

Портал Юга.ру поговорил с Анной Александровой о возглавленном ею проекте, современном состоянии философии науки, исследовании счастья и благополучия, а также о тревожных политических переменах.

Расскажите о научном комплексе Leverhulme Centre for the Future of Intelligence и о проекте Science, value, and the future of intelligence, который вы возглавили.

Этот центр — замысел и достижение моего старшего коллеги, профессора Хью Прайса. Он загорелся идеей, добыл средства и убедил многих, в том числе и меня, что риски и перспективы быстрого развития искусственного интеллекта, которое мы сейчас наблюдаем, стоит изучать серьезно, в том числе и гуманитариям.

Основная тема нашей части проекта связана с тремя следующими аспектами. Первый: искусственный интеллект работает на основе алгоритмов, то есть точных и формальных правил, которые содержат полные и всесторонние инструкции о том, что делать и при каких обстоятельствах. Второй: все чаще и чаще системам искусственного интеллекта приходится предпринимать шаги, которые, так или иначе, имеют моральную окраску. Например, автомобиль, управляемый роботом, должен знать, что делать во время аварии — уберечь пассажира или пешехода? Третье: человеческие нравственные ценности не поддаются алгоритмизации — нет таких правил, которые бы постоянно работали, без исключений. Ни категорический императив Канта, ни правило утилитаристов «самое большое счастье для наибольшего числа людей» — никто пока не смог закодировать мораль в схему.

Теперь складываем все три аспекта: как без схемы ценностей программировать искусственный интеллект так, чтобы он соответствовал человеческой морали (или даже просто моральным ценностям какой-либо культуры), не подвергал нас опасности и не причинял нам вреда? И в более широком смысле — какими ценностями должна руководствоваться эта наука? Надеюсь, вскоре мы сможем давать ответы, а не только формулировать вопросы.

Что сейчас является наиболее актуальным для философии науки? Какие еще вы можете выделить магистральные направления?

Это вопрос дискуссионный, по этому поводу существует множество мнений. Я лишь представлю свое, не стремясь никому угодить.

Современная наука — это очень здорово. Но ее направления не всегда соответствуют самым насущным проблемам человечества. Например, недостаточно ресурсов — и человеческих и материальных — идет на изучение болезней, которые убивают и калечат большинство людей в мире. Рак и Альцгеймер — это в основном болезни богатых, но именно они занимают непропорционально много внимания медицины. Должна ли наука отвечать приоритетам людей, которые за нее платят? Должна ли она как-то центрально планироваться, как было в СССР? Или только любопытство конкретного ученого должно определять ее направления? Какой должен быть баланс между теорией и приложениями? И должна ли наука отражать перспективы разных культур и слоев населения? Мои любимые из живущих философов науки — Филип Китчер, Нэнси Картрайт (моя наставница), Хелен Лонжино — пишут как раз на эти темы.

Еще одна из ваших профессиональных тем — исследование концептов «счастья», «благополучия». Расскажите об этом. Возможна ли генерализация таких абстрактных понятий? Как на этот вопрос отвечает современная наука? Возможно ли «математически безошибочное счастье» в мире, отличном от антиутопии Замятина?

Современная наука действительно берется изучать счастье и благополучие в контексте причин и следствий. Я уже десять лет за этим слежу, и мой вердикт таков: изучая конкретную взаимосвязь между аспектами образа жизни человека и его эмоциональной сферой, можно действительно узнать много важного. Например, как чувствует себя офисный работник без контроля над своим временем? Или когда он стоит в пробке? Или сидит в интернете? Научный подход к эмоциям и качеству жизни очень ценен, если мы хотим понимать, что нам делать, скажем, с социальной сферой.

Но иногда под счастьем мы подразумеваем более широкое и индивидуальное понятие — то, как человек воспринимает свою жизнь. Когда, выпивши, подруга спрашивает меня: «Ну что там, Анька, происходит в глубине твоей души?» На такой вопрос наука ответить не может.

Не могу не спросить про российские исследования в области философии науки. Можете ли назвать ученых из России, пользующихся большим авторитетом в этой области? Знакомы ли вы с российской философией науки?

Плохо знакома, так как влюбилась в этот предмет, уже уехав из России. Во ВШЭ есть прекрасные философы мирового уровня. Наверное, еще где-то есть — страна-то большая и талантливая. Но научную литературу я читаю только по-английски. По-русски читаю только что-нибудь для удовольствия. Улицкую, Пелевина, Шишкина...

Пока мировая философия науки занимается изучением искусственного интеллекта, в России все чаще случаются скандалы с антинаучными заявлениями представителей власти. Так, например, министр культуры Мединский заявил, что «первый вопрос, на который должна честно ответить историческая наука, — насколько то или иное событие или частное деяние отвечает интересам страны и народа», а новый детский омбудсмен Анна Кузнецова верит в информационно-волновую память матки, т.н. телегонию. Мы с коллегами шутим по этому поводу, что Россия — это страна победившего эпистемологического анархизма.
Какие, по-вашему, процессы стоят за всем этим? К чему может привести такое восстание против научных фактов?

Все это, конечно, грустно. Вот в США президентом избрали Дональда Трампа. На мир опускается тьма. В России она уже с 2012 года примерно, а теперь кажется, что эта тьма везде. Цивилизация — это хрупкая вещь, которую я намерена защищать как могу в своем уголке философии. Завтра встану — и с прямой спиной прочитаю классную лекцию, а что еще остается делать...

В середине девяностых вы учились в КубГУ на филолога. Как получилось, что вы стали заниматься философией науки и уехали из России?

Все случайно. Просто я всегда рвалась ко всему самому интеллектуальному и абстрактному, отвлеченному, а Краснодар, при всей моей к нему любви, эту жажду утолить не смог. Вот я и поехала искать себя. Спасибо фонду «Открытое Общество» за стипендию и родителям за бесконечные жертвы.

Бываете ли вы в России, в Краснодаре? Следите за событиями, которые происходят в стране, в родном городе? Остались ли у вас здесь друзья или близкие?

А как же?! Бываю два раза в год, эксплуатирую маму и папу, которые дают моим сыновьям такое же волшебное детство, какое было и у меня, а я в это время пишу работы, помидоры ем, семечки лузгаю в теплые вечера. За Россией я всегда слежу, это моя страна, как бы ни было больно смотреть на то, что здесь происходит. После закона Димы Яковлева я неделю рыдала.

Регулярно читаю и ваш сайт, спасибо вам за серьезную журналистику.