Феноменология ИИ

В «Росатоме» обсудили, что такое искусственный интеллект, его возможности и риски

Тема искусственного интеллекта сейчас в центре внимания: о ней говорят ученые, экономисты, социологи, политологи и многие другие. Атомщики — не исключение: системы ИИ в «Росатоме» внедряют в различные бизнес- и производственные процессы. Чтобы привести представления об ИИ к общему знаменателю, департамент поддержки новых бизнесов блока по развитию и международному бизнесу «Росатома» организовал лекцию, посвященную ИИ, в рамках серии семинаров по различным аспектам цифровизации.

Семинар открыла лекция главного эксперта компании «Консист-ОС» (входит в «Росатом») Александра Прохорова. «Искусственный интеллект преподносится консалтинговыми компаниями как вершина эволюции инфокоммуникационных технологий и инженерного знания», — начал он. Согласно исследованию Deloitte Research, это первая технология, которая позволяет заменить практически все этапы работы с данными: производство, сбор, хранение, обработку, передачу и применение.

Сложности определения ИИ и его рынка

Чтобы осознать место России в гонке искусственного интеллекта, необходим количественный анализ рынка ИИ. Но для этого важно определить, что входит в само понятие «ИИ». В разное время искусственным интеллектом называли разные системы: символьный и генетический ИИ, системы классического машинного обучения, компьютерное зрение, машинную обработку текста, генеративный ИИ, а в настоящее время чаще всего — агентный ИИ. Это совершенно разные технологии с разными задачами, возможностями, сильными и слабыми сторонами. Например, генеративный ИИ страдает таким явлением, как галлюцинации, но нельзя переносить это свойство на другие типы ИИ, где такой проблемы нет. Тем не менее маркетологи и экономисты объединяют различные виды ИИ, чтобы охарактеризовать весь рынок ИИ и решить задачу распределения инвестиций и управления отраслью. Разные аналитики могут относить к ИИ различный набор технологий. Это приводит к тому, что оценки рынка ИИ расходятся в разы.

Так, по данным консалтинговой компании MarketsandMarkets, объем рынка ИИ в 2025 году составил $370 млрд. По данным другой компании, Gartner, — $1,5 трлн. Разница в цифрах отражает разницу в методиках оценки рынка: фактически речь идет о том, что включено в понятие «рынок ИИ», а что — нет.

Так, по оценкам Gartner, наибольшую долю (20%) занимают ИИ-смартфоны. Смартфоны высокого класса, оснащенные NPU-чипами (от Neural Processing Units. — Примеч. ред.), способны локально, без обращения к облаку, обрабатывать ИИ-модели младшего уровня. Еще 18% — ИИ-серверы. На третьем месте с долей 14% — чипы, не включенные в серверы. И только на четвертом месте с долей 11% — ИИ-приложения, то есть не инфраструктура для функционирования ИИ-решения, а его интеллектуальная основа.

У MarketsandMarkets картина иная. Если Gartner учитывает полную стоимость сервера, то MarketsandMarkets — только ИИ-чипы и ИИ-ускорители внутри сервера. Кроме того, MarketsandMarkets считает только B2B-рынок и не учитывает конечные пользовательские устройства, куда входят ИИ-смартфоны.

Оценивая рынок приложений, следует различать ПО, где ИИ выполняет основную функцию (например, в таких продуктах, как ChatGPT, Claude и других LLM-моделях), и продукты, где ИИ — лишь вспомогательный компонент. Таков, например, Photoshop, использующий ИИ для обработки изображений или видео: сам продукт остается графическим редактором.

В разное время в центре внимания сообщества находились разные ИИ-технологии. Одни уходят с рынка, другие увеличивают свою долю. Так, по экспертным оценкам, у систем символьного и генетического ИИ, зародившихся в 1980 — 1990-е годы, в настоящее время осталось порядка 3–10% рыночной доли. У классического машинного обучения, появившегося в 2000-е, — доля наибольшая, 25–40%. У систем обработки текстов (не включая генеративный ИИ), начавших развитие во второй половине 2010-х, — 3–12%. У генеративного ИИ, активно развивающегося с 2022 года, — 15–35%. У наиболее молодого направления, агентного ИИ, — от 5 до 20%, причем последние две технологии сложно разграничить, они пересекаются. Это общемировые данные, в России пропорция, вероятно, другая: доля генеративного и агентного ИИ несколько ниже, а доля компьютерного зрения и классического машинного обучения, наоборот, выше.

Любопытно, что среди участников глобального бизнеса в области генеративного ИИ (включая разработчиков моделей, облачной инфраструктуры и ИИ-чипов) львиную долю получают именно разработчики чипов, а не разработчики моделей. Максимум доходов приходится на NVIDIA — ключевого производителя чипов для ИИ, а компании-разработчики, от стартапов до OpenAI и Midjourney, делят относительно небольшой рынок. Для сравнения, по данным консалтинговой компании Altimeter, в 2024 году на производителей чипов для генеративного ИИ приходилось порядка $75 млрд, в то время как на разработчиков генеративных моделей — всего $5 млрд.

О развитии ИИ в России и ее месте в мире можно судить по косвенным признакам, например по объему вычислительных ресурсов. Так, по данным Оксфордского университета, на долю США приходится 63%, Китая — 28%, Европы — 4%, всего остального мира, куда входит и Россия, — 5%. По прогнозам, с 2020 по 2030 год общие мировые затраты на ЦОДы вырастут более чем на порядок — с $0,14 трлн до $1,7 трлн.

Возможности и угрозы, связанные с ИИ

ИИ оказывает огромное влияние на технологический суверенитет страны. Александр Прохоров выделил пять направлений такого влияния.

Первое — алгоритмический суверенитет — включает контроль над вычислительными ресурсами, необходимыми для обучения моделей и инференса (использования обученной модели ИИ для решения задач на новых данных), и владение передовыми моделями ИИ.

Второе — военный потенциал, который все больше зависит от развития ИИ-компетенций в стране. Это, например, технологии, связанные с летающими, наземными, водными и подводными дронами. ИИ задействован не только в «умных» роботах, но и в системах управления боем и планировании стратегических операций. Кроме того, современные модели позволяют быстро находить уязвимости в софте, которые многие годы не были обнаружены и могут эксплуатироваться злоумышленниками, если те обнаружат их первыми. Возможность находить эти уязвимости позволяет создавать как защитные решения, так и вредоносные системы, способные выводить из строя критическую информационную инфраструктуру противника, и это тоже очень мощное оружие.

Третье направление — информационная война (влияние на умы людей). Современные технологии производства дипфейков на базе ИИ позволяют создавать аватаров, неотличимых от реальных спикеров. Эти технологии дают возможность манипулировать общественным сознанием, влиять на выборы и проч.

Четвертое направление — регуляторная гонка: регулировать будут не территории (страны), а алгоритмы. И тот, кто владеет алгоритмами и внедряет решения на их основе, получает преимущества от владения такими системами.

Пятое направление — цепочки поставок. Доступ к передовым чипам становится критически значимым. Компании вроде NVIDIA, поставляющие свои чипы и ускорители, становятся уникальными участниками рынка, по сути, единственным «мостом», по которому идут все остальные. Не случайно капитализация NVIDIA одна из самых высоких в мире. Можно назвать и другие критические точки цепочек поставок: компании TSMC (поставщик полупроводниковых чипов) и ASML (единственный производитель литографов высокого разрешения), доступ к редкоземельным металлам и т. д. Все эти направления определяют новые возможности геополитического влияния стран, добивающихся передовых результатов в развитии искусственного интеллекта. России важно участвовать в этой гонке, уверен Александр Прохоров.

Одна из угроз, связанных с ИИ, — крайне быстрый и плохо контролируемый рост интеллектуальных способностей ИИ. В этой связи в экспертном сообществе опасаются непредвиденных последствий от появления так называемого AGI — сильного или общего искусственного интеллекта. Термин AGI нельзя назвать строго определенным. Одно из его толкований — система с высоким уровнем развития трех ключевых свойств: автономности, интеллекта и универсальности. Пока таких систем не создано. Например, у LLM-моделей, таких как ChatGPT, высокий интеллект, но низкий уровень автономности и универсальности. У роботов (например, роботов-пылесосов) высокая автономность, но низкие универсальность и интеллект. У веб-браузера высокая универсальность (совмещает множество функций) при низких интеллекте и автономии. Считается, что сильный ИИ, сравнимый по интеллектуальному уровню с человеком, может появиться в ближайшие три-четыре года.

Еще труднее предсказать последствия, которые ожидают человечество, если (или когда) AGI разовьется до сверхразума. Шведский философ Ник Бостром в своей книге «Сверхразум: пути, опасности, стратегии», вышедшей еще 12 лет назад, предложил диаграмму развития ИИ. И если посмотреть на динамику появления новых релизов OpenAI GPT, она по форме похожа на эту диаграмму — длительная подготовка и почти вертикальный взлет.

Опасность могут представлять не только системы сильного интеллекта будущего, но и системы сегодняшние. Так, несколько месяцев назад широко обсуждалось использование модели Claude Mythos Preview для поиска уязвимостей, когда владелец, компания Anthropic, открыла ее узкой группе компаний для тестирования. В частности, Mozilla, разработчик браузера Firefox, в одном только апреле 2026 года, перейдя с более ранней модели Claude Opus 4.6 на Claude Mythos, обнаружила 423 уязвимости — больше, чем за весь 2025 год. Подобные программы могут использоваться не только как средство защиты, но и как средство поиска уязвимостей с целью их эксплуатации для проведения атак, например атак на критическую инфраструктуру.

Сложности верификации результатов LLM-моделей

Исторически добыча нового знания и обучение были долгим, медленным и дорогим процессом, потому что человек не может быстро усвоить большой объем информации. Но, столкнувшись с галлюцинациями LLM-моделей, разработчики и пользователи поняли, что полученные от моделей ответы требуют проверки результата человеком. В противном случае есть опасность получить ошибочный результат. Однако проверить текст, сгенерированный ИИ, так же быстро, как нейросеть, человек не может в силу психофизических ограничений. В итоге выполнение интеллектуальной задачи становится быстрым и дешевым, зато верификация становится дорогой и медленной.

Возможность кардинальной автоматизации многих когнитивных задач начала разрушать механизм обучения. Раньше схема была такой: наставник выполняет сложные задачи, «подмастерье» учится, работая на подхвате, и формируется новое поколение экспертов. Например, в университете это связка «дипломник — аспирант — докторант». Дипломник строит графики; аспирант решает более сложные задачи; докторант — самые сложные. Теперь элементарные операции — написание простого кода, построение графиков, обработку данных — выполняет ИИ. Человек-«подмастерье», дипломник или стажер, становится менее востребованным. Происходит кадровый разрыв. «Но это означает, что фирмы выпиливают ступени лестницы, по которой сами поднялись», — отметил Александр Прохоров.

ИИ начинает подтачивать систему высокой экспертизы. Так, раньше опытный аудитор безопасности кода опирался на многолетний опыт, глубокое понимание бизнес-логики, наработанные практикой ошибки, интуицию и неформализуемые знания и получал высокую зарплату, а знания передавал через наставничество. С появлением систем на базе ИИ, таких как Claude Code Security, картина стала меняться: программа сканирует всю кодовую базу, выявляет паттерны, работает с миллионами строк кода за минуты. Знания превращаются в воспроизводимый процесс и упаковываются в инструмент. Эксперт со своими знаниями перестает быть уникальным специалистом, теряет работу и перестает делиться опытом. Наставничество исчезает.

Наблюдая эти тенденции, эксперты стали говорить о так называемой полой экономике. Речь идет о том, что человек, который должен проконтролировать результат действий ИИ, не успевает этого делать и часто использует другую модель ИИ для верификации результатов действий первой. Это приводит к тому, что системы подчас утверждают ошибки друг друга. Но если делегировать верификацию человеку, скорость получения результатов падает. Поэтому компании, которые боятся отстать от рынка, допускают автоматизацию административных и производственных процессов на базе генеративного ИИ, несмотря на риск накопления ошибок. «Понятно, какие угрозы это несет. Полая экономика — это результат подтачивания экономики изнутри. Решений, текстов, кода становится все больше, а уверенности в отсутствии ошибок, которые могут привести к плачевным результатам, все меньше», — подытожил Александр Прохоров.

В атомной отрасли

Доклад о «партнерстве» атомной отрасли и ИИ сделал директор проекта по математическому моделированию инженерной критической информационной инфраструктуры «Росатома» Дмитрий Фомичев. Тема ИИ в атомной отрасли на международном уровне обсуждалась на симпозиуме МАГАТЭ в декабре прошлого года. Главная мысль, прозвучавшая на мероприятии, заключалась в том, что АЭС, в том числе атомные станции малой мощности, хороши для надежного энергообеспечения ЦОДов, где размещаются необходимые для ИИ вычислительные мощности. С другой стороны, ИИ может помочь улучшить конструкцию АЭС благодаря генеративному проектированию, виртуальным экспериментам, физически информированным нейронным сетям, предиктивной аналитике работы оборудования, семантическому поиску нужной информации и проч.

Пример такого сотрудничества в мире есть: в рамках партнерства Google и Westinghouse модели Hive и Bertha были обучены на массиве данных, накопленных за 75 лет, и теперь проектировщики могут обращаться за справками с помощью ИИ и получать развернутый ответ. Предполагается, что это даст большой прирост производительности труда, скорость разработки вырастет вдвое. Однако пока таких примеров не было. Тем не менее, как считает Дмитрий Фомичев, повышение скорости разработок на 5–10% может стать реальностью. В «Росатоме» считают перспективными шесть направлений применения ИИ (см. «Подробности»).

Так, генеративный ИИ помогает в проектировании новых изделий, узлов, компонентов промышленных объектов. Физически информированные и графовые нейронные сети ускоряют и повышают точность решения вычислительных задач в области гидро- и газодинамики, физики плазмы, механики твердого тела, нейтронной физики и т. д. Компьютерное зрение востребовано для анализа изображений структур материалов. ИИ также показал свою эффективность для цифрового синтеза новых материалов на основе существующих данных. Цифровые двойники с ИИ промышленного оборудования и стендов помогают в создании комплексных интеллектуальных моделей научно-исследовательских стендов и промышленного оборудования для анализа и накопления данных. Мультиагентные системы пригодятсядля интеллектуальной работы с отраслевой научно-технической и проектной информацией, поиска функциональных зависимостей и прогнозирования. ИИ также используется для анализа данных с применением российских фотонных и квантовых процессоров и создания гетерогенных вычислительных систем.

Дискуссия в финальной части семинара показала, что пока нет понятных механизмов и методик, позволяющих справиться с негативными сторонами развития ИИ, например со всем, что связано с влиянием ИИ на обучение и формирование интеллекта и творческих способностей детей. Однако в отрасли есть консенсус о том, что ИИ непременно надо развивать, потому что он дает технологические возможности гораздо более высокого уровня. Если страна не будет обладать этими возможностями, велика вероятность реализации рисков и угроз ее суверенитету.