Челябинский политолог обозначил опасности использования нейросетей в политике

Главная из них – уменьшение приватности человеческой жизни.

В более раннем материале, мы попросили известную нейросеть рассказать о плюсах и минусах использования искусственного интеллекта в политике. Её ответы вы можете прочитать здесь. В продолжение темы корреспондент Полит74 задал примерно такие же вопросы челябинскому политологу, кандидату философских наук Андрею Лаврову.

Искусственный интеллект в управлении - неизбежность

— Насколько реально участие искусственного интеллекта в политике?

— Прогресс остановить невозможно, нельзя. Искусственный интеллект - это неизбежность. Его участие и в политике, и в социалке, и во всей жизни человечества от домохозяйства до космической ракеты – дело времени, в независимости оттого, нравится это кому-то или нет. Мне, например, скорее не нравится, потому что за всяким подобным научным новшеством следуют не только плюсы, но и минусы. Задача социума и экспертного сообщества свести эти минусы к минимальным значениям. Это наша задача. К нулю свести их не получится. Мы же помним, что развитие химии привело не только к излечению болезней, повышению урожайности и так далее, и так далее, но и к химическому оружию.

— Может ли искусственный интеллект повлиять на политику в государстве, регионе, городе?

— Конечно может. Мы уже переходим на цифровое голосование. И не только мы, все перейдут, это естественно. А мы же понимаем, что от этого недалеко до того, как это всё обрабатывать и контролировать. Тут важный вопрос, кто и как будет посредством искусственного интеллекта управлять этими процессам. Можно ли будет их контролировать? Если это централизованный контроль, то на местах влиять ни на что не получится. Просто не местные писали эти программы и не им менять эти программы.

О плюсах и минусах

— Какие плюсы от использования искусственного интеллекта в городском хозяйстве можно выделить?

— Искусственный интеллект может дать наиболее быстрый и дешёвый ответ. Повторю, именно дешёвый. Можно посадить десять аналитиков, которые просчитают то или это. Стоимость, соответственно, и будет в виде зарплаты десяти аналитиков. А можно нажать кнопку искусственного интеллекта, который проведёт ту же аналитику в десять раз дешевле. Затратность решения проблем для общества будет ниже.

Вообще, в этом смысле искусственный интеллект сможет просчитать всё городское хозяйство. Извечная проблема любого населённого пункта: как проложить дорожки для людей. ИИ сможет это просчитать сразу. Он даже к людям обращаться не будет, просмотрит уличные камеры, проанализирует данные и выдаст ответ. Всё. Вопрос решённый, это люди выбрали своим хождением, ногами. И это же не только с дорожками, просчитать можно напор воды в трубах.

Также мы понимаем, что политическая активность населения снижалась и будет снижаться во всём мире. А внедрение ИИ в голосование может привлечь народ к политике. Как мне лучше, пойти проголосовать на участке или дома, в «цифре». Вопрос я думаю, риторический.

—Какие минусы можно выделить?

— Цивилизация идёт по пути усиления контроля, мы же понимаем, что любой крестьянин в XIX веке, без паспорта имел большую приватность, чем любой профессор или депутат сегодня. В любой стране причём. Для большинства искусственный интеллект – это красивые картинки. Вот нет. Это мощнейшее орудие социального контроля. Я думаю, что где-то некоторые элементы ИИ государственные структуры в работе уже используют, это видно, например, по тому, что и как делают центры управления регионами. Это происходит во всём мире! Передовики тут, конечно, китайцы. Другое дело, что в системе постоянного наблюдения мы уже в некоторой степени привыкли жить. Я вхожу в подъезд и знаю, что меня снимают, я вхожу в магазин с понимаем, что меня фиксируют. Есть ли вообще места, где меня не видно? По-большому счёту, по всей видимости, нет.

Также важный момент – у искусственного интеллекта нет этики. Это просто программа. Это внедрение принципа «Закон суров, но это закон», внедрение законности. Другое дело справедлив ли закон? Но это извечная проблема. Я не видел в мире законов, которые бы все признавали как справедливые. В этом смысле – это очень важно для нас. У нас какая главная поговорка в стране? Закон, что дышло, куда повернул, туда и вышло. В этом смысле искусственный интеллект станет уравнителем, как кольт. Всё зависит от того, какие алгоритмы будут заложены.

Ещё одна опасность. Утечка данных. Мы же понимаем, что всё это в случае чего моментально разлетится и расползётся по сети. Невозможно полностью обезопасить и нивелировать подобное развитие событий.

Кто должен контролировать нейросети

— Недавно было опубликовано письмо более тысячи экспертов с призывом на несколько месяцев приостановить обучение нейростей. Насколько нам необходимо чуть-чуть остановиться и просчитать риски?

— Я прекрасно понимаю авторов письма. Это что-то вроде опасений Опенгеймера, который один из первых осознал всю опасность, которую несут атомные бомбы. Нужно чётко понимать, что ни одно государство остановить такие разработки не сможет. И возникает чёткий вопрос: кто контролирует эти разработки? Государство или частные корпорации? И в том, и в другом есть колоссальные риски. Правители государств попросту через десять лет перестанут управлять странами, опять же, возможности тотального контроля. Если частные корпорации рассматриваем, то это ещё хуже, фантастику, я надеюсь, все смотрели и понимают, что случается, когда частники контролируют подобные процессы.

— Может ли использование искусственного интеллекта привести к несправедливости, из-за вшитой в алгоритм дискриминации?

— А она изначально встроена. Самый классический пример - социальная карта. Каждый твой поступок отмечается либо плюсом, либо минусом, потом ты приходишь устраивать ребёнка в детский сад, а тебе из-за плохого рейтинга сроки зачисления увеличивают, а другому наоборот, уменьшают. Просто потому, что, ты, пардон, нужду во дворе справлял, а другой на субботники ходил. Но я бы не назвал это дискриминацией, я бы назвал это новым способом существования общества, в котором ты знаешь, что все твои поступки видны и за каждый ты отвечаешь. Это новый уровень ответственности.

Опять же, какая дискриминация? По возрастном, половому признакам? Это человеческие разборки. А это этика.