Мозг терминатора
В России в начале августа впервые прошла международная конференция по биологически инспирированным когнитивным архитектурам BICA-2017. К нам приехали представители 30 стран, где особо успешно развиваются высокие технологии. Сегодня интерес к вопросу о воссоздании в компьютере человеческой мысли растет во всем мире, а фантастические сюжеты фильмов 90-х годов становятся чем-то привычным и обыденным. Вот и искусственный интеллект уже давно привычное для слуха понятие, однако его перспективы пока ещё весьма туманны для обычного человека. А как всё-таки правильно – искусственный или машинный интеллект? Какую роль в его развитии могут сыграть ядерные технологии? Как механический разум сможет изменить жизнь людей в недалеком будущем и сможет ли? На эти и другие вопросы «Вестника Атмопрома» ответил заместитель директора Института интеллектуальных кибернетических систем (ИИКС) НИЯУ МИФИ, эксперт по искусственному интеллекту Валентин Климов.
Давайте начнем с азов, что такое искусственный интеллект и чем он отличается от обычного компьютера?
Искусственный интеллект (ИИ) – это наука и технология, включающая набор средств, позволяющих компьютеру на основании накопленных знаний давать ответы на вопросы и делать на базе этого экспертные выводы. Компьютер не просто накапливает данные, а может совершать логические выводы, генерировать новые знания, которые в него заранее не закладывались. Такого знания у компьютера не было, он сам вывел это путем задействования определенной логической цепочки, ответил на вопрос и это знание воспроизвел. Могут встречаться довольно сложные варианты. Сейчас популярное направление ИИ связано с машинным обучением, с нейронными сетями. Это технология, когда компьютеру дается выборка знаний какой-то проблемной области, он её анализирует, накапливает знания, потом даются новые примеры, он может эти примеры анализировать, сравнивать с имеющимися в его базе знаний и на основе этого понимать, что в этих примерах говорится, и давать «осознанный» ответ. В данном случае он более осмыслен, чем жестко зашитый ответ. Как пример: сегодня широко распространены системы анализа фотографий, распознавания номеров машин, проезжающих мимо камер, технология эта уже вполне совершенна. Любые закрашенные, заляпанные номера ИИ может на основании имеющихся у него примеров написания различных цифр полностью восстановить. Это один из простых примеров того, как ИИ, не имея жёстко зашитого знания, делает логический вывод, распознавая неясно видимый номер.
Как я понимаю, искусственный интеллект – это компьютер, программа которого более совершенна? И она может решать более сложные задачи?
Традиционные алгоритмы действуют в жёстко описанных ситуациях. Запрограммировали решение квадратного уравнения, и оно действует в рамках жёсткого алгоритма – ни вправо, ни влево. Когда мы рассматриваем подходы искусственного интеллекта, сейчас это класс алгоритмов – эвристические, гибридные, генетические алгоритмы и нейротехнологии – они все обладают своими нюансами, основное их свойство – это гибкость: они могут действовать не по заранее и жёстко заданному алгоритму, а основываясь на своих наблюдениях, реализуя возможности обучения, которые в них были заложены. Они пополняют свою базу знаний, накапливают и расширяют её. Как у ребенка: сначала маленькая база знаний – 2–3 слова, потом база расширяется, ребенок задает вопросы: а что это такое, почему, какого цвета. Компьютер с ИИ действует по аналогичным алгоритмам, пополняя базу знаний, задавая вопросы и анализируя тексты.
То есть он в некотором смысле самообучающийся?
Можно и так сказать. Но если говорить про старые системы – были так называемые экспертные системы, – там возможности обучения закладывал человек. Это были тоже зачатки искусственного интеллекта, но там человек вручную наполнял базу, и машина могла делать логический вывод в рамках того понимания, которое человек в неё заложил. Сейчас стараются не ограничиваться только этим экспертным мнением, а дать возможность машине самообучаться, при этом она может делать выводы – и ошибочные в том числе, как и человек. Но в результате обучения и обработки ошибочных выводов она может исправлять их, настраивая свои логические выводы в ходе своего жизненного цикла. ИИ меняется, модифицируется. Появился новый факт, он попадает в его базе знаний на нужное место, на нужную полочку. Строятся новые связи, и это приводит к тому, что при ответе на один и тот же вопрос с уже дополненной базой знаний он может по-разному отвечать.
Я читал заметку, где приводился такой пример: парализованный человек сидит в кресле, ему надевают на голову специальный шлем, и он управляет движением кресла при помощи мысли.
Ни для кого не секрет, даже в поликлиниках есть электроэнцефалограмма, это электрические сигналы, которые кора головного мозга, возбуждаясь, посылает в процессе своей деятельности. В мозге есть нейроны, они в результате работы генерируют слабые электрические импульсы. Вопрос заключается в том, как правильно их считать. Какой импульс за что отвечает, какое напряжение о чем говорит. Сейчас на базе лабораторных исследований уже есть подходы, когда на голову человек надевает шапочку с датчиками, и человек определенным образом думает о том, что нужно поехать вперед, и датчик считывает активность определенной коры головного мозга, то есть отдельный участок мозга начинает посылать сигнал. И заряд больше, чем обычно, ведь он находится в возбужденном состоянии, и датчик срабатывает, машина решает, что нужно ехать вперед.
Однако сейчас такие технологии не очень хорошо отработаны. Человек может одновременно думать о многом, и, как следствие, у него будут активны сразу несколько зон головного мозга, важно научиться эти электрические импульсы распознавать, фильтровать и совершать именно то действие, которое человек хотел совершить. Человек с ограниченными возможностями иногда максимум, что может, – это двигать глазами, посылать мозговые сигналы. В МИФИ сделано такое экспериментальное кресло, лабораторный образец. Оно уже опробовалось и на пациентах, и на обычных людях и может по движению глаз, по активности головного мозга совершать действия. Но для этого человеку нужно определенным образом потренироваться, заставить себя целенаправленно думать, смотреть в нужную точку.
В этом случае искусственный интеллект – компьютер, который расшифровывает импульсы, посылаемые человеческим мозгом, и его задача верно их расшифровать?
Да, расшифровать и отфильтровать от «ненужных мыслей», которые возникают параллельно. Человек может думать – «еду вперёд» и вдруг увидел собаку или ещё что-то – вот эти посторонние объекты отвлекают и вызывают параллельные мысли, мешающие машине считывать сигнал. Данное кресло – в определенной степени узкая система, хотя это тоже технология с подходом искусственного интеллекта, но она отвечает только за определённый род деятельности.
Есть более серьёзные системы, которые ассистируют человеку – врачу при проведении операций. Есть определённый набор знаний, симптомов, сочетаний, историй болезни, которые заложены в машину, и она на основании этих признаков определяет, что это симптом. Находит похожие истории, выбирает среди них лучший достигнутый результат в подходе к лечению и ассистирует врачу, подсказывает ему оптимальный ход лечения заболевания.
Кстати, на какие средства в МИФИ работают над созданием ИИ? Вы получаете гранты или существуют специальные финансовые программы?
В основном это грантовая поддержка. Есть несколько грантов Российского фонда фундаментальных исследований. Скажем, та же коляска, управляемая движением глаз через так называемый BCI (Brain-Computer Interface) – это та шапочка, которая на голову надевается. Это один из примеров обучающейся системы на базе ИИ. Второй пример – это гранты Российского научного фонда (РНФ), там тоже финансируются работы по созданию когнитивных (мыслящих) архитектур, гранты на поддержку исследований в области нейротехнологий. Помимо этого, безусловно, есть ещё поддержка от руководства МИФИ для перспективных направлений. Но сказать, что есть единая большая программа, нельзя. В начале августа 2017 года МИФИ провели большую международную конференцию, которая финансировалась из средств гранта Российского научного фонда, собрали ученых из более чем 30 стран, обсуждали возможности искусственного интеллекта, робототехники, различных нейротехнологий. Были интересные примеры того, как искусственный интеллектпомогает людям с ограниченными возможностями, в том числе детям, страдающим аутизмом, когда робот, который реагирует на какие-то их небольшие сигналы, общается с детьми, и дети начинают лучше адаптироваться к окружающей среде. Особенность этих детей в том, что они не хотят взаимодействовать с людьми, а с машиной, с компьютером на их уровне понимания им становится интересно. Происходит прогресс в лечении и адаптации к внешней среде.
Если взять атомную отрасль, в каких её сферах можно применять искусственный интеллект?
ИИ можно применять в самых разных сферах. Например, в ядерной медицине, в области создания различных экспертных систем, помогающих или ассистирующих человеку при лечении. Другая область – различные обучающие системы, компьютерные тренажёры, позволяющие оператору отрабатывать непредвиденные ситуации и их сложно предсказуемые сочетания. Это, в свою очередь, позволяет анализировать реакцию человека на происходящее, изучить особенности данного специалиста, выделить ситуации, в которых он реагирует безупречно, или, наоборот, – неверно. С одной стороны, это система обучения людей в сложных критических условиях, с другой – это анализ их скрытых возможностей и личностных особенностей.
Также существует возможность применять эти системы при анализе и моделировании различных аварийных ситуаций. Нейросеть будет анализировать огромные массивы данных в выборке с данных различных датчиков – тепловых, электрических, и тестировать их. За много лет работы АЭС накоплен большой объем информации, который можно дать машине для анализа и заложить в неё определенные критерии, дать ей возможность сигнализировать о степени вероятности возникновения аварийной ситуации. Давать предупреждение, что необходимо заменить конкретную деталь, потому что у неё критическое напряжение. Не дожидаться физической аварии, а действовать на опережение благодаря анализу ситуации.
Существуют коды безопасности – специальные программы, которые просчитывают вероятность аварийной ситуации. В чем принципиальное отличие использования искусственного интеллекта для решения этой задачи?
Коды безопасности очень хорошо работают, наработаны годами и хорошо срабатывают на определённом количестве параметров, по тем ситуациям, которые когда-то уже происходили. Все предыдущие аварии, закипания, выбросы, выплески зашиты в коды безопасности. Но никто не говорит о том, что они могут проанализировать сочетание факторов, которых ещё не было, они не смогут смоделировать неизвестное – раз. Во-вторых, коды – жёсткая система, они должны быть, но параллельно с этим было бы неплохо иметь ещё вторую систему, которая бы работала гибче относительно жёстких кодов и могла бы предупреждать человека о потенциальных угрозах, быть советчиком, сигнализировать, что происходит необычное сочетание факторов, хотя внешне не происходит ничего, что могло бы говорить об опасности. И человек начинает проверять – действительно ли что-то не так. Пока технологии не дошли до такого уровня, когда на машину можно возложить ответственность остановки реактора. Но можно получить советчика, который может заранее предупредить оператора о возможном инциденте, дав тем самым оператору время принять решение.
Вы обращались в Росатом с предложением профинансировать подобные разработки?
Активных попыток мы пока не предпринимали. У нас нет промышленного прототипа, который мы могли бы продемонстрировать. Наша система ИИ имеет преимущества относительно уже имеющихся, и пока мы занимаемся её развитием. Промышленный прототип – это вопрос ближайших нескольких лет. Системы подобного класса применяются не так давно, если взять те же США, систему IBM Watson. Она во многих ситуациях даёт диагнозы точнее, чем среднестатистический врач, и даже хорошие лечащие врачи начинают практиковать использование этой системы для анализа данных по пациентам, перед тем как дать окончательный диагноз.
Какие страны или институты достигли серьезных успехов в этом направлении?
Мы на нашу конференцию приглашали представителей стран-лидеров. Это Япония, США, Германия, Франция. Италия. И Россия с точки зрения фундаментальной науки не находится в отстающем положении Мы ведём фундаментальные исследования на равных. Главная проблема в том, что в России очень мало фундаментальных хороших исследований доходят до готового продукта. Существует разрыв между фундаментальной наукой, которая выжила в «лихие 90-е», и реализацией её наработок в конкретном продукте.
Многие коммерческие компании, которые могли бы этим заниматься, не хотят, потому что это дорого или не приносит сиюминутной прибыли, долгосрочные инвестиции не столь привлекательны, когда можно быстро заработать на чем-то более простом. Для фундаментальной науки, РАН и вузов самостоятельная реализация слишком дорога, у них просто нет денег для доведения фундаментального исследования до прикладной разработки.
То, что в Советском Союзе называлось НИИ, КБ – это умерло (доведение исследований до конкретной разработки). Лишь по некоторым направлениям есть хорошее сочетание, когда есть крупная IT-компания, и есть вуз (университет) или институт РАН, которые отвечают за науку. Такое сочетание приводит к тому, что исследованием занимается академическая структура, а реализацией – те, кто доводит разработку до конечного продукта. Например, компания ABBYY, которая выпускает ряд сложных продуктов: систему понимания и анализа текстов (Compreno), электронный мультиязычный словарь (Lingvo), распознавания сканированных текстов (FineReader) – они на уровне мировых лидеров. У них много работает лингвистов и учёных из РАН и МФТИ, а с другой стороны – компания коммерческая, доводящая продукт до упаковки. В итоге – все в выигрышном положении. Мне кажется, что для подобных направлений должна быть стратегическая поддержка, в том числе от Росатома, если есть заинтересованность в решении определенного класса задач, рассчитанных на долгий срок – от фундаментального исследования до реального продукта – до 5 лет, мыслить надо категориями 3–5 лет. Не все готовы к таким категориям.
В настоящее время как такового мирового рынка программных продуктов на основе искусственного интеллекта ещё нет, но он может появиться в ближайшие 2–3 года?
Я бы сказал, есть уже целый пласт задач, где ИИ активно применяется. Потому что технологии и искусственный интеллект идут в «одной упряжке». Есть ряд рыночных ниш, где пока ИИ применяется неактивно. По разным причинам: дорого, долго, пока не созрели и т.д. Но есть общее ощущение, что в ближайшем будущем ИИ будет применяться везде. Причин несколько: огромное обилие данных, которые человек уже не в силах перерабатывать в одиночку. Ему нужен интеллектуальный фильтр данных и факторов, человек не может в одиночку это сделать. Второй момент: усложняющаяся действительность, многофакторность, появление новых стрессовых ситуаций, которых ещё не было. Это происходит во всех сферах: и в транспорте, и в атомной сфере, и в финансовых технологиях, увеличение заболеваний – везде. Для адекватного ответа коды должны быть гибкими. Мы к этому так или иначе придем.
Пока что мы находимся в начале волны. Но по многим заключениям международных агентств, в XX веке была информационная революция, потом была биотехнологическая революция, она и сейчас идет активно (применение технологий, основанных на анализах ДНК), следующая будет нейротехнологическая революция. В 20-х – 30-х годах XXI века произойдет внедрение этих технологий на базе искусственного интеллекта во все сферы деятельности, начиная от бытовой сферы (системы умного дома, автомобиля), когда системы анализируют поведение своего хозяина, владельца, подстраиваются под него, смотрят за его нуждами, потребностями, заканчивая крупными объектами – энергостанции, космические корабли, где необходимо проанализировать все отклонения, спрогнозировать потенциальные аварии, предупредить. Ведь профилактика всегда дешевле, чем лечение.
Как все-таки правильно оперировать терминами: «искусственный интеллект» или «машинный интеллект»?
Искусственный интеллект – это устоявшееся выражение, в зарубежной практике artificial intelligence. Машинный интеллект – более бытовое понятие, более правильным является термин «машинное обучение». Это технология, когда мы создаем базу обучающих примеров, подаем их на вход машине, в её нейросеть. Нейросеть на основе примеров настраивается, и на поступающие новые примеры она может реагировать, верно их распознавая и классифицируя.
Если попробовать немного пофантазировать и заглянуть на 10 лет вперёд, как ИИ может изменить мир?
Не за горами появление человекоподобных роботов, может, это чуть подальше 10 лет, но во многих сферах эти роботы будут всё больше применяться. Это и уход за стареющим населением и больными людьми, использование в разных боевых отраслях. Уже сейчас все оборонные ведомства финансируют разработку, связанную с робототехникой для военного применения. Есть достижения, и на поле боя будут воевать не люди, а машины. У кого машина более гибко реагирует на меняющееся окружение – тот и победит. Это и различные системы автопилот: и машины, и самолеты, и электропоезда. Чем больше будет внедряться различных датчиков, тем более человек будет становиться защищённым. Появятся надстройки, которые будут подсказывать варианты решений, и человек будет выбирать действие. Лечение заболеваний. Мы уже видим персонифицированную медицину – накопление данных о человеке, его история болезни, она будет фиксироваться, машина будет её обобщать и анализировать. Человеку и к врачу можно будет не обращаться, ему приложение будет говорить о том, какие необходимо принять меры. Врач будет меньше нужен для постановки диагноза, скорее больше для проведения операций. Это кажется сказкой, но можно посмотреть на уже существующие вещи. У нас есть система, которая используется в онкоцентре на Каширской. Она хорошо распознает определенный вид рака. Она во многих случаях дает правильную рекомендацию врачу: что это за тип рака, какая стадия и так далее. На основании имеющихся анализов и фотографий пораженного органа. Дальше решение принимает врач. Такой интеллектуальный ассистент работает уже сейчас. Это будет развиваться. Можно самому будет делать анализ крови, сахар, давление – сейчас все это уже есть. Машина будет предупреждать и давать рекомендации, а решения принимать будете уже вы сами.
