Профессор БГУ: ИИ — это новое ядерное оружие, но договора о его нераспространении не будет

Угроза — как у бомбы, а контроль — как над соцсетями. Почему мир не может договориться о правилах работы и развития искусственного интеллекта? Как маленькой Беларуси не потеряться в ИИ-гонке? И есть ли у нас план по выживанию в цифровой реальности? Об этом и многом другом поговорили с делегатом Всебелорусского народного собрания профессором БГУ Александром Курбацким.

Соперник без правил

— Складывается ощущение, что сейчас все участвуют в гонке: большие корпорации борются за право быть лучшими в сфере разработки ИИ, люди активно используют этот инструмент в любых вопросах, чтобы упростить жизнь, и здесь есть риски постепенной деградации человечества. В итоге вместо пользы мы ведь можем получить, наоборот, вред?

— Гонкой века мы называем конкуренцию между человеком и его главным творением на данный момент — генеративным ИИ. Об этой конкуренции с разных трибун говорят ИТ-визионеры и ИТ-скептики, чиновники и бизнесмены, экспертное сообщество и обыватели. Еще пять лет назад главной угрозой для человечества считался сильный ИИ, который не просто имитирует человеческий интеллект, а сравним с ним по всем параметрам, в том числе — по принципам функционирования и наличию эмоций.

С 1950-х годов ученые относили создание сильного ИИ на четверть века в будущее. И каждый раз попадали пальцем в небо — до создания сильного ИИ и грядущей катастрофы (технологической сингулярности) все время оставались те же самые 20-30 лет. Революция генеративных нейросетей изменила понимание возможностей, перспектив и угроз искусственного интеллекта.

— Есть несколько сценариев нашего развития: пессимистичный и оптимистичный. Вы за какой?

— Оптимисты говорят, что до сильного ИИ осталось буквально несколько лет. Правда, называют его слегка по-другому — общим ИИ (artificial general intelligence, AGI). Принципы его функционирования будут отличаться от принципов работы человеческого мозга. Но он сможет решать любые задачи из тех, что сегодня решают люди. А когда что-то лает и кусается как собака, то это собака и есть.

Ясно, что революция генеративных нейросетей — это именно революция, которая способна в корне изменить окружающий мир. Откладывать апокалиптические сценарии до появления полноценного сильного ИИ не нужно. «Веселые времена» начнутся гораздо раньше. Собственно, уже начинаются. И начинаются с пузыря, как и революция интернет-технологий в конце XX века.

Тогда был «пузырь доткомов», сегодня стремительно надувается «пузырь генеративного ИИ». Тогда инвесторы на хайпе вкладывали деньги в компании, у которых в названии было «.com». Сегодня громадные инвестиции привлекают компании, у которых в названии есть AI. Тогда взрывной рост стоимости интернет-компаний закончился обвалом на бирже. Сегодня многие ждут нового биржевого краха, а ИИ-пессимисты при этом радостно потирают руки.

Сначала лопнут фонды. Потом — привычный мир

— А что делать в этой гонке обычным людям?

— Оптимистам, пессимистам и рационально настроенным людям хочется пожелать различать две судьбы. Судьбу компаний, в которые инвесторы вложили деньги вопреки отсутствию вменяемых бизнес-моделей. И судьбу технологий генеративного ИИ. Это две большие разницы, что показал, кстати, лопнувший пузырь доткомов.

В начале XXI века обанкротились сотни, если не тысячи интернет-компаний. Но на плаву остались лидеры, научившиеся извлекать из интернет-технологий прибыль. Последующие доходы оставшихся на рынке игроков во главе с Google и Amazon давно уже превзошли все похороненные инвестиции. Пузырь доткомов лопнул, но мир под влиянием интернета кардинально изменился. Выжили сильнейшие, что только пошло на пользу ИТ-индустрии.

Фондовый пузырь генеративного ИИ, вероятнее всего, лопнет, что похоронит сотни компаний и сотни миллиардов инвестиций. И это точно не приведет к похоронам самой технологии. Скорее, очистившись от излишнего оптимизма, завышенных ожиданий и неоправданных расходов, генеративный ИИ еще быстрее будет проникать во все сферы нашей жизни. В том числе — в экономику и социальную сферу.

Нужно стараться непредвзято смотреть на возможности, перспективы и угрозы генеративного ИИ. Без неуемного оптимизма и унылого пессимизма. Технология по-настоящему революционная, сфера ее применения будет расширяться, другого пути у человечества все равно нет.

Бомбу можно зачехлить. А искусственный интеллект — нет

— Как обществу и государствам контролировать это безудержное развитие технологий?

— Вопрос о государственном и/или общественном контроле за разработками в сфере генеративного ИИ поднимают многие лидеры цифрового бизнеса и визионеры цифрового мира. Например, об этом постоянно говорит Илон Маск, предрекая вымирание человечества при неблагоприятном развитии событий (с чем я тоже согласен).

В таких предупреждениях часто проводится аналогия с ядерным оружием. Когда человечество осознало возможные грядущие последствия, лидеры стран, обладающих ядерными боеголовками, сели за стол переговоров. Был принят целый ряд ограничительных и юридически значимых договоров. ИИ по возможным негативным последствиям для цивилизации не уступает ядерному оружию. И вроде бы логичными кажутся эти аналогии и призывы как можно скорее сесть за стол переговоров.

— А почему тогда этого не происходит?

— Есть одно «но» — весьма существенное. Ядерные исследования позволили достаточно быстро разделить военную и коммерческую составляющую. Ядерное оружие для государств-владельцев — это исключительно расходы, и расходы огромные. Ограничить его производство целесообразно с экономической точки зрения. Деньги страны зарабатывали на атомной энергетике, ограничивать которую никто не собирается (про самоубийственную экономическую политику Германии говорить не стоит, объяснить ее невозможно).

В исследованиях и разработках, связанных с искусственным интеллектом, все гораздо сложнее. Угрозы заключаются не только в прямом использовании ИИ в военных технологиях — это лишь верхушка айсберга. Катастрофы боятся там, где лежат основные коммерческие интересы. Самые страшные сценарии связывают с внедрением ИИ в управленческие контуры человеческой цивилизации. Поэтому пока воз и ныне там.

На региональном уровне создаются ассоциации, которые объединяют разработчиков в области ИИ. Ассоциации становятся площадками для обсуждения проблем, связанных с генеративным ИИ, в том числе проблем безопасности. Но на мировом уровне существует жесткая конкуренция, которая поощряет любые исследования, если они способны дать экономический или геополитический эффект. И как остановить эту конкуренцию — непонятно.

Нужно привыкать и адаптироваться к миру, в котором у человека впервые появился серьезный конкурент в интеллектуальном плане — искусственный интеллект.

Наш маневр: не ядро, а оболочка

—  Хочется поговорить и о Беларуси. Конкретно сейчас, перед ВНС, обсуждается проект социально-экономического развития Беларуси на будущую пятилетку. Не так давно говорилось о стратегии цифрового развития страны на период 2026-2030 годов. Какие задачи из этих документов вы считаете наиболее действенными? Например, стоит ли нам создавать собственную экосистему искусственного интеллекта, чтобы не быть просто рынком сбыта иностранных решений?

— Нам нужно выстраивать именно экосистему. Мы сразу не построим полноценную большую языковую модель, как у гигантов. Но мы можем создать собственную оболочку вокруг чьей-то уже готовой модели, договорившись, например, с российскими коллегами. И вот эта оболочка будет интересна, потому что самое важное — вокруг нее можно выкристаллизовать команду: собрать экспертов, ученых, инженеров, иных специалистов. Сложность в том, что у нас пока негде этим заниматься: в университетах или академии развитой экосистемы нет. У нас есть мозги, но объединить их можно только вокруг реальных проектов. Если создать такую экосистему, то следующим циклом, когда появится критическая масса компетенций, возможно, мы сможем выстроить и свою математическую модель. Но не сразу. Мы очень маленькая страна по сравнению с Китаем, Россией или США. Поэтому правильно так: создаем экосистему, запускаем реальные проекты и аккумулируем команды.

— Кто-то над этими вопросами задумывается? Может быть, какие-то решения будут приниматься?

— Сейчас новая команда в Министерстве связи как раз пытается эту экосистему сделать. У нас много разных разрозненных ИT-продуктов: у медиков, банков, предприятий, силового блока свои наработки. Не хватает единого подхода, интеграции. Для небольшой страны, когда все развивается слишком независимо, это сложно. Роль интегратора на текущий момент и могло бы сыграть Минсвязи.

Ударим ИИ по полям и больницам!

— В каких отраслях, на ваш взгляд, внедрение технологий и ИИ наиболее актуально для Беларуси? Где нам стоит занять свои ниши?

— Сложно выделить одну. Но, например, сельское хозяйство. Там остро стоит кадровый вопрос, труд физически тяжелый. Внедрение технологий может сократить необходимое количество людей. В медицине, особенно на уровне районных поликлиник, ИИ мог бы выступать как партнер врача, анализируя всю историю болезни пациента за многие годы, что человеку-медику сложно удержать в голове. Он не должен заменять человека, но как помощник, как продвинутый интеллектуальный справочник очень эффективен.

— Часто где-то в кулуарах обсуждают создание белорусских социальных сетей, мессенджеров, операционных систем. Я в это не очень верю. То есть сделать можно, а вот будет ли это пользоваться спросом? Это наш путь, как вы считаете?

— Я не сторонник этой идеи на данном этапе. Это вторично. Даже у России не все легко получается с их аналогами. А у нас количество потенциальных пользователей существенно меньше, команду профессиональную собрать сложнее. Эти задачи не первостепенные. Гораздо важнее и интереснее создание собственных дата-центров. Если мы создадим хорошую экосистему ИИ (пусть ядро и не наше), то для наших прикладных задач понадобятся мощные вычислительные центры. За счет относительно дешевой электроэнергии и профессионального обслуживания сюда даже можно было бы привлекать проекты наших зарубежных партнеров. Это важнее, чем свой поисковик. Поисковики — это уже пройденный этап, сейчас будущее за интеллектуальными помощниками на базе ИИ.

— Вы работаете в университете. Как ИИ трансформирует ИT-профессии и как в связи с этим нужно обучать студентов?

— ИТ-образование должно существенно меняться. ИИ в программировании сейчас становится чуть ли не главным партнером. Его, естественно, надо конструктивно встраивать и в образование. Но есть нюанс: ИИ обучается на существующем коде. А за последние 30 лет, с массовым ростом числа программистов (в основном ИТ-пролетариев), очень много кода написано на среднем, посредственном уровне. Обучаясь на нем, ИИ тоже будет выдавать (и уже активно выдает) такие же посредственные решения. Поэтому его нужно использовать осторожно и пока только как помощника.

Важна подготовка архитекторов систем, особенно при массовой цифровой трансформации всех сфер жизнедеятельности человека, — узкого круга специалистов, которых нужно обучать на реальных проектах. Для этого университеты должны кооперироваться с передовыми предприятиями, активно занимающимися цифровой трансформацией.

Специальности для сферы ИТ-индустрии сейчас нужно пересматривать кардинально. Классическая карьера джуниор — мидл — сеньор рушится. Сеньоры нужны, а джуниоры — уже не очень. Как готовить сразу высококлассного специалиста — это большая проблема для системы образования.

Процесс образования можно и нужно автоматизировать с помощью цифровых платформ и того же ИИ. Цифровые платформы могут частично заменить многих традиционных преподавателей. Необходимы современные образовательные проекты, вроде российской «Школы 21».

Предлагаем не доллары, а шанс попасть в историю технологий

— Что, кроме зарплаты, может предложить Беларусь ИT-специалисту? Есть ли смысл уезжать?

— В Беларуси проще попасть в команду, которая занимается сложными, интересными задачами странового уровня. Кадров меньше, а задачи, стоящие перед страной, такие же, как и в мире. Здесь комфортнее: жизнь дешевле, меньше конкуренция и больше шансов найти другую работу, если что-то пойдет не так. В той же Европе, оставшись без IT-работы, нашим соотечественникам сложно быстро перестроиться и интегрироваться.

— И последнее. Мы обсуждали в Минской области проект социально-экономического развития на 2026–2030 годы. Мне кажется, еще на 5 лет можно что-то серьезное прогнозировать, но уже очень трудно заглянуть вперед на 10-15 лет. Может быть, вы попробуете?

— Вы правы, сейчас это очень тяжело. 20 лет назад, очевидно, это было легче сделать. Динамика колоссальная, особенно опять же из-за ИИ. Он все перекраивает. Взять хотя бы ИТ-сферу. Еще пять лет назад все стремились быть программистами. А сейчас ИИ по этой профессии ударил сильнее всего, потому что сама ИТ-индустрия за последние 30 лет превратила программирование из искусства в регламентированную промышленную деятельность, которую легче автоматизировать. Это привело к кризису классической модели найма и подготовки. Пока образование эффективно не перестроится, будет сложно. Нужна новая модель, а мы к ней еще не готовы. Поэтому загадывать на 10-15 лет вперед не будем, ведь мир так быстро меняется.

Совсем недавно Александр Курбацкий награжден медалью Франциска Скорины. Награду присудили за многолетнюю плодотворную работу, высокий профессионализм, образцовое выполнение служебных обязанностей, выдающиеся достижения в сфере образования и науки.