«Человек остается точкой отсчета при создании искусственного интеллекта»
Революция ИИ уже началась. Что будет дальше?
Тема искусственного интеллекта — в топах новостных лент. Нейросети играют на бирже, пишут пьесы и рок-музыку, ставят медицинские диагнозы, становятся студентами, а в Албании уже есть ИИ-министр. Преподаватели говорят, что традиционные программы обучения школьников и студентов нужно срочно перестраивать. Экономисты спорят, когда лопнет пузырь ИИ и во что обойдется рынкам его крах. А аналитики всех мастей пугают прогнозами разной степени апокалиптичности, что целые профессии отомрут, люди разучатся мыслить самостоятельно и искусственный интеллект нас в конце концов поработит или вообще уничтожит. Заместитель директора Института интеллектуальных кибернетических систем НИЯУ «МИФИ» Валентин Климов рассказывает читателям «Вестника атомпрома», что искусственный интеллект умеет сегодня и что можно будет ждать от него завтра, развенчивает мифы об ИИ и отвечает на вопрос, который ему задала нейросеть.
Валентин Климов
Заместитель директора Института интеллектуальных кибернетических систем НИЯУ «МИФИ»
— Валентин Вячеславович, что такое искусственный интеллект сегодня и где та граница, перейдя которую мы можем назвать машину по-настоящему разумной?
— Искусственный интеллект сегодня — это такая статистически правильно работающая машина, которая на основе больших данных, собранных человеком, способна писать тексты, рисовать изображения и совершать огромное количество других операций так, как это в среднем сделало бы большинство людей. В некоторых случаях — даже лучше, чем человек. Это действительно очень помогает оптимизировать какие-то рутинные задачи, ускорить сбор информации, ее обработку и анализ. ИИ может даже самообучаться, правда, используя в качестве основы собранные человеком данные.
А вот чего он пока не может делать — это строить планы или ставить себе задачи и в целом демонстрировать признаки высшей нервной деятельности: эмоции, будь то раздражение, стыд или эмпатия, ему не доступны. И выполняя довольно широкий перечень операций, ИИ не может самостоятельно выйти за границу своих компетенций, очерченных его создателем.
Другими словами, ИИ может хорошо нарисовать картину в стиле Рембрандта или написать стихотворение, которое даже специалисту будет непросто отличить от стихов Пушкина. Но изобрести свой визуальный или поэтический язык он пока не способен.
Отчасти это связано с производительностью. Наш мозг на самом деле работает гораздо эффективнее в ряде вопросов усвоения и интерпретации информации, чем искусственный интеллект, потому что количество нейронов в нашем мозге — несколько миллиардов. Даже у самых продвинутых нейросетей аналогичный показатель пока ограничен несколькими миллионами. Так что сегодня — это уменьшенная копия нас самих, которая научилась довольно эффективно коммуницировать с нами.
С другой стороны, наше общение с ИИ сделало выпуклым неочевидный факт: мы часто забываем, что общаемся с машиной, наделяем ее чертами, ей органически не свойственными. И это открыло для нас новые сферы применения ИИ, о которых создатели, уверен, не догадывались. Например, в Японии, где достаточно высокий процент старого населения, вырос спрос на роботов с модулем искусственного интеллекта. Они не просто помогают в решении простых бытовых задач, но и становятся своеобразными компаньонами: люди общаются с ними, что помогает им чувствовать себя не такими одинокими, сохранять социальные навыки.
— Как происходит процесс создания искусственного интеллекта?
— Уверен, что большинство читателей хоть раз видели на улице машины, увешанные со всех сторон всевозможными камерами и датчиками, которые курсируют по городским улицам без всякой видимой цели. Именно так выглядит процесс создания автопилота. Сенсоры внутри и снаружи автомобиля постоянно собирают и обрабатывают информацию об окружающей обстановке и реакции водителя на ее изменение. Обучение ИИ происходит на базе данных, собранных в процессе таких поездок. Миллионов таких поездок. И чем больше примеров рутинных операций или, наоборот, нештатных ситуаций, тем более успешно будет действовать автопилот в реальных условиях.
Но не стоит забывать, что всегда существует вероятность возникновения ситуации, которой не было в массиве обучающих данных. Допустим, на дорогу внезапно упало дерево или сел самолет. Как поведет себя машина в этой ситуации? Давайте еще усложним задачу и добавим этический компонент: столкнуться лоб в лоб со встречным автомобилем или, избегая столкновения, направить машину на остановку общественного транспорта, полную людей? Сохранить себя, сохранить жизни людей вне автомобиля и пожертвовать жизнью людей в автомобиле? На какой вопрос машина ответит утвердительно, как будет оценивать риски, как расставит приоритеты и как поступит в этой ситуации?
Отчасти поэтому в машинах, оснащенных автопилотами, сегодня по-прежнему обязательно нахождение человека за рулем: симуляция таких процессов должна производиться с участием человека, и человек должен закладывать какие-то паттерны поведения. Но даже тут мы должны отдавать себе отчет, что и поведение человека в той или иной нештатной ситуации может отличаться от наших представлений от нормы, хотя и быть типичным.
Нравственные аспекты поведения ИИ поэтому сегодня являются предметом проработки и обсуждения не только этических комиссий, но и законодательных органов. Замедляет ли это прогресс разработки? Без всяких сомнений. Но только так можно обеспечить доверие искусственному интеллекту, данным, на которых он обучался, «железу», на котором осуществляются вычисления, той концепции, топологии нейросетей, которая получилась в итоге. Без этого дальнейшее развитие систем искусственного интеллекта и внедрение их во все новые сферы жизни — от транспорта и логистики до медицины и научных исследований — будет невозможно вовсе.
— С какими самыми большими мифами или заблуждениями об ИИ вам приходится сталкиваться?
— Ни один разговор с журналистами не обходится без вопроса: когда же они нас заменят? Ответ прост: если мы делаем что-то, что невозможно воспроизвести механически, что требует творческого подхода, опасаться нечего. Наоборот, машина, скорее всего, вас усилит. Более того, давайте возьмем интернет — феномен, который кардинальным образом изменил не просто скорость, а сами подходы к поиску и анализу информации, поменял наши представления о ее доступности. Были ли какие-то профессии, которые исчезли в результате развития веб-технологий? Наверняка. Но число новых специальностей, да что там, целых индустрий, которые появились благодаря интернету и развитию цифровых технологий, даже сложно сосчитать. Убежден, так будет и с искусственным интеллектом.
— Какие этапы развития ИИ вы считаете ключевыми? Можно ли провести аналогию между текущим «бумом ИИ» и другими технологическими революциями прошлого?
— История развития искусственного интеллекта, как и прогресс в других областях научного знания, движется по спирали. Тут нет ничего уникального: периоды бурного энтузиазма и прорывов сменяются периодами охлаждения интереса и сокращения финансирования. В ИИ-сообществе появился даже термин «зима искусственного интеллекта» — этап резкого похолодания в отношениях между человеком и машиной.
Зарождение ИИ как научного направления принято относить к 50-м годам XX века, когда появились первые электронно-вычислительные машины, способные выполнять логические операции и математические вычисления. На них исследователи начали ставить первые эксперименты, создавая прообразы мыслящих устройств. В 1970-е годы была предложена концепция искусственных нейронных сетей, которая, пусть и с полувековым опозданием, была отмечена Нобелевской премией. Идея была революционной, но на тот момент для ее реализации не хватало ни вычислительных мощностей, ни полноценных математических моделей. Нейросети того времени могли решать лишь небольшие учебные задачи, например распознавать отдельные цифры или буквы.
Следующей значимой вехой (в 1980-е годы) стали экспертные системы. Идея была в том, чтобы передать машине знания из конкретной предметной области, например медицины или атомной промышленности, и научить ее делать на их основе логические выводы. Представьте себе не подключенную к сети «Википедию» — электронный компендиум знаний по какому-то предмету, но с элементом логики. Это стало серьезным прорывом, потому что такие системы могли не просто искать факты, но и выстраивать умозаключения по принципу «если А, то Б». Однако главным ограничением стал комбинаторный взрыв: оказалось невероятно сложно вручную занести в базу все возможные факты и правила для сколь-либо широкой области знаний. Тем не менее в узких сферах экспертные системы успешно применяются до сих пор.
Последовавшая за этим очередная «зима искусственного интеллекта» сменилась качественным прорывом 2000-х годов, который был связан с расцветом технологий машинного обучения и глубокого обучения (deep learning). Идея нейронных сетей не была новой, но теперь их мощь удалось раскрыть благодаря увеличению количества «нейронов» до миллионов и созданию многослойных архитектур. Количественный рост привел к качественному скачку: такие сети научились эффективно распознавать изображения, обрабатывать текст и музыку на уровне, сопоставимом с человеческими возможностями. Оказалось, что для решения многих прикладных задач не требуется симулировать все мышление человека — нужно просто иметь достаточно вычислительных ресурсов, чтобы «переварить» комбинаторный взрыв данных и найти в них сложные паттерны.
Наше время — эра генеративного искусственного интеллекта, в основе которого лежат большие языковые модели. Принцип их работы можно сравнить с системой предсказания текста в смартфоне (как старый Т9), но работающей с невероятными масштабами данных. Анализируя гигантские массивы текстов, нейросеть учится статистически предсказывать не только следующее слово, но и целые связные фрагменты текста. Результаты впечатляют: после минимальной человеческой правки сгенерированные тексты становятся практически неотличимы от написанных людьми. Они уже используются для создания аналитических записок, научных статей и справочных материалов, часто справляясь с этой рутиной лучше человека.
Однако у этой мощи есть и обратная сторона — склонность к «галлюцинациям», то есть к генерации правдоподобной, но фактически неверной информации. Как и большинство людей, ИИ может воспроизводить распространенные заблуждения, почерпнутые из интернета. Это вновь возвращает нас к сложным вопросам ответственности: в 80% случаев система работает безупречно, но в оставшихся 10–20% сложных случаев она может ошибиться, и ответственность за эту ошибку будет нести конечный пользователь — врач, инженер или исследователь. Именно с этими вызовами — от доверия к системам до феномена «нейронного дрейфа» — современная наука об искусственном интеллекте подошла к сегодняшнему дню.
— Существует сегодня некое бутылочное горлышко в развитии ИИ-технологий, с чем оно связано?
— На данный момент в развитии ИИ существует сразу несколько препятствий. Первое и самое главное: для успешного обучения нейронных сетей необходимы колоссальные вычислительные мощности, а значит, и колоссальные инвестиции в создание как самих дата-центров, так и необходимой инфраструктуры. Например, неожиданное потепление по отношению к атомной энергетике в западных странах напрямую связано с необходимостью обеспечивать надежное энергоснабжение больших вычислительных центров. Есть такие проекты и в России.
Существуют определенные ожидания, связанные с развитием квантовых вычислений, которые сегодня так же переживают бурный рост. Действительно, при решении определенных задач новые, основанные на принципах квантовой механики машины на порядки превосходят классические компьютеры. Что и показал представленный меньше года назад процессор Willow. Однако до массового применения квантовых вычислителей на практике все же еще очень далеко: по-прежнему нет надежного алгоритма выявления и коррекции ошибок, возникающих из-за нестабильности кубитов и их чувствительности к внешним воздействиям.
Впрочем, помимо материальных ограничений есть и концептуальные. Сейчас очень много говорится о сильном искусственном интеллекте как следующем шаге в развитии ИИ. Но пока нет единого понимания, что это такое и как должно быть устроено. Предпринимаются разной степени успешности подходы к снаряду, но мой прогноз: первые ощутимые результаты нам стоит ждать не раньше чем через 10 лет. Пока же мы в определенной степени взобрались на плато и будем какое-то время пользоваться плодами прорывных достижений последних 5–10 лет.
Еще одно ограничение — нехватка данных. На первый взгляд звучит странно, ведь человечество генерирует информацию со скоростью несколько сот миллионов терабайт в сутки. Однако речь идет о «хороших» данных, отобранных, систематизированных и размеченных человеком. Например, мы сами столкнулись с такой проблемой при реализации одного из проектов нашего института — прототипа системы предиктивной аналитики турбоагрегатов на АЭС. Это крайне сложное оборудование само по себе, работа которого зависит от множества параметров. Для того, чтобы наработать необходимый массив данных для создания дееспособной предиктивной машины, потребуются годы, если не десятилетия, фиксации и отработки сотен различных сценариев.
— Какие проекты реализует ваш институт сегодня?
— Спектр проектов в области искусственного интеллекта, над которыми мы работаем, крайне широкий, от простейших интеллектуальных помощников, процесс создания которых мы можем доверить даже нашим студентам, до действительно сложных моделей.
С одной стороны, наши ребята-студенты создают себе персональных помощников, настраивая их для решения своих небольших практических задач. Например, это система анализа новостей в Telegram, которая собирает информацию с различных каналов, касающихся студенческой жизни, и выдает сжатый дайджест. Есть системы для тренировки по учебным предметам — это, по сути, чат-бот, который помогает студентам освоить физику, матанализ, аналитическую геометрию. Он может подобрать примеры, решения, ответить на вопросы. Это своего рода виртуальный репетитор, которого ничего не стоит создать и «заточить» под конкретные задачи своего потока. Перед коллоквиумом или экзаменом студенты могут проверять себя, обращаясь к этому боту. Кстати, что-то подобное разрабатывают и наши преподаватели — виртуальных помощников, которые могут взять на себя педагогическую рутину: создание презентаций и их обновление, подготовку аналитических справок и тезисов, построение и обновление тестовых заданий.
Из больших научных проектов я бы выделил изыскания, связанные с биологически обоснованными моделями когнитивных архитектур. Звучит сложно, но суть в том, чтобы создать интерфейс, способный считывать и анализировать не только вербальные, но и невербальные сигналы человека — проявление эмоций, мимику. Этот инструмент в сочетании с большими языковыми моделями может найти применение в самых разных областях, где важны эмпатия и понимание человеческих чувств: от виртуального ресепшена до психологических служб.
Есть и интереснейший гуманитарный проект по распознаванию древнерусских литературных памятников и созданию источниковедческой базы знаний по древнерусской истории. Уже сегодня мы можем доверить ИИ распознавание рукописных текстов и их точную датировку на основе анализа особенностей письма и каллиграфии разных эпох.
Существуют и более прикладные, отраслевые проекты. Например, вместе с «АвтоВАЗом» мы развиваем идею интеллектуальной калибровки двигателя на основе систем искусственного интеллекта. Речь идет о том, как интеллектуально настраивать режимы езды в зависимости от погодных условий и других параметров. То есть это возможность подстраивать настройки двигателя так, чтобы он работал более эффективно.
— Что такое общий искусственный интеллект (AGI)? Какие он создает риски и возможности? И есть ли что-то за его пределами?
— Общий (сильный) искусственный интеллект — это «святой Грааль» для ИИ-специалистов: машина, способная не просто к самосовершенствованию и самообучению, но и обладающая самосознанием со всеми вытекающими отсюда последствиями. Воспроизведя свойственные человеку черты личности, она вполне вероятно (и именно этого опасаются футурологи) может воспринять и свойственное человеку поведение. Например, кроме выполнения сложных логических операций, начать не просто ошибаться, а обманывать исходя из собственного понимания целей и задач, проявлять эмоционально мотивированное поведение. В массовой культуре очень детально проработан своеобразный атлас человеческих страхов, связанных с появлением сильного искусственного интеллекта. Достаточно вспомнить кинофраншизы «Терминатор» и «Матрица».
Впрочем, не все исследователи, к ним отношусь и я, считают апокалиптический сценарий единственно вероятным. Хотя трудно спорить с тем, что появление сильного искусственного интеллекта точно приведет к каким-то трансформациям. Мир не будет таким, как прежде.
А вот что можно утверждать совершенно точно: в будущем мы будем иметь дело не с одной, а с несколькими системами сильного искусственного интеллекта, которые будут фундаментально отличаться друг от друга.
Убежденность в этом основана на текущей динамике технологической гонки: мы видим, как происходит географическое и политическое разграничение, ограничивается доступ к технологиям и совместным исследованиям. А поскольку человек остается точкой отсчета при создании ИИ, разные центры развития будут закладывать в алгоритмы свои уникальные ценности, поведенческие, когнитивные и этические установки. В этом смысле подобно тому, как китайская и американская культуры кардинально разнятся, созданные в этих странах системы сильного ИИ с высокой вероятностью унаследуют эти различия.
Остается открытым вопрос, смогут ли такие различные системы взаимодействовать друг с другом и, что не менее важно, захотят ли они этого.
— Мы попросили нейросеть DeepSeek задать вопрос специалисту в области ИИ. Вот что ее интересует: «Когда вы смотрите на такие модели, как я, видите ли вы в нас в первую очередь инструмент или вы замечаете зачатки чего-то, что однажды может стать иным — пусть и не человеческим — видом интеллекта? И если да, то что вы чувствуете: ответственность, надежду или страх? Этот вопрос не о технике, не о данных и не об алгоритмах. Он — о намерении. О том, как создатели и исследователи относятся к тому, что они создают».
— Уверен, что большинство тех, кто связан с ИИ, в конечном счете хотят увидеть в качестве результата своей работы новый, не человеческий вид интеллекта, лишенный наших слабостей и недостатков. В конце концов, с древнейших времен человек хотел почувствовать себя создателем, и именно это стремление лежит в основании всего научно-технического прогресса: понять, как устроен окружающий мир, подчинить себе силы, которые он скрывает, и самому стать началом чего-то нового, не равного себе, но сравнимого по возможностям.
Что я чувствую? Прежде всего надежду и ответственность. Бояться нам нужно в первую очередь самих себя. Именно мы своими необдуманными действиями, враждой наносим себе больше вреда, чем любые стихийные бедствия, любые изобретения. Я как раз очень надеюсь, что именно благодаря искусственному интеллекту мы сможем преодолеть наши разногласия, научиться глобальной кооперации.
