Леонид Соколинский: Искусственный интеллект, как и человек, имеет право на ошибку

Хотя в научно-фантастических фильмах искусственный интеллект часто изображают в виде человекоподобных роботов, захватывающих власть над миром, на данном этапе развития технологии ИИ совсем не такие страшные и далеко не такие умные.

Напротив, развитие искусственного интеллекта позволяет этим технологиям приносить пользу во всех сферах жизнедеятельности. О реальных, а не надуманных проблемах, связанных с развитием ИИ, рассуждает в своей авторской колонке проректор по информатизации Южно-Уральского государственного университета Леонид Соколинский.

Искусственный интеллект – это, главным образом, искусственные нейронные сети, которые реализуются с помощью вычислительной техники и обучаются для решения определенных задач. Уже созданы нейронные сети, которые, например, распознают рукописные цифры в сотни раз быстрее и точнее, чем человек. Примеров нейронных сетей, которые уже сейчас функционируют и, более того, используются в разных сферах нашей жизни, очень много.

Например, в педагогике уже есть разработки, связанные с оценкой вовлеченности аудитории во время урока. Стационарная камера снимает ход урока, затем запись обрабатывается искусственной нейронной сетью, которая анализирует выражение лиц учеников, распознает эмоции, затем анализирует и дает оценку, насколько ученики были заинтересованы уроком. Это важно для оценки качества преподавания.

Крупные промышленные компании активно применяют системы ИИ при производстве продукции. Здесь я могу огромное количество примеров привести, в том числе то, что реализуют наши ученые.

На линии разливки стали существует проблема залипания стали в разливочной машине. Если это происходит, то технологический процесс останавливается, а предприятие несет убытки. Современные варианты таких разливочных машин обвешены сотнями датчиков, которые ежесекундно фиксируют различные параметры. Показания с этих датчиков в реальном времени анализирует нейронная сеть, которая может предсказать, произойдет ли залипание стали в машине. Решить эту задачу в короткие сроки человек не в состоянии. Этот проект выполняли наши ученые для одной из крупнейших промышленных компаний Европы SMS-group.

Возможность применения искусственного интеллекта очень важна сегодня в сфере здравоохранения, ИИ помогает врачам ставить диагнозы. Ученые ЮУрГУ много работают в этом направлении. Виртуальные модели для диагностики дают такую высокую точность, которую не могут гарантировать даже высококлассные специалисты.

Но надо понимать, что, когда я говорю, что ИИ работает лучше, чем человек в определенной сфере деятельности, это касается лишь конкретной задачи, которой обучили нейронную сеть. Сама сеть не решит «незнакомую» задачу, которую способен выполнять двухлетний ребенок. Сегодня уровень ИИ находится между мухой-дрозофилой и пчелой. Это, конечно, немало. Но вместе с тем этого недостаточно, чтобы некий искусственный интеллект захватил мир и уничтожил людей. Сначала надо хотя бы дорасти до уровня пчелы!

Но есть более серьезная проблема, которая беспокоит не обывателей, а ученых. Ученые создали искусственную нейронную сеть, но мы до сих пор не знаем, как она работает, не понимаем всех процессов и не можем гарантировать, что она не ошибется. Также как до сих пор никто не понимает, как работает человеческий мозг. Как человек имеет право на ошибку, так и нейронная сеть тоже может ошибаться. Только за свои ошибки человек несет ответственность, а кто будет отвечать за ошибки ИИ? Открытый вопрос.

Еще одна реальная проблема: вопрос с кадрами. С искусственным интеллектом могут работать только обученные люди. Даже самому талантливому врачу или инженеру на заводе эти интерфейсы могут показаться сложными. Южно-Уральский государственный университет взял на себя задачу – обучить молодые умы нашей современности необходимым навыкам.

В новом учебном году мы запустим магистерские программы, связанные с искусственным интеллектом. Наш вуз стал одним из числа 21 университета-победителя. Заявки подавали более 120 университетов страны. ЮУрГУ по количеству баллов занял четвертую строчку, опередив даже знаменитую Бауманку, Томский государственный университет, а также Уральский федеральный университет и другие серьезные вузы...