Переломный момент

Какие вызовы ставит развитие ИИ и квантовых вычислений и сможет ли человечество с ними справиться

Книгу Кай-Фу Ли и Чэнь Цюфаня «ИИ-2041. Десять образов нашего будущего» нельзя назвать нон-фикшен в строгом смысле, поскольку описывает она пока еще не произошедшие события и напоминает скорее сборник научно-фантастических рассказов, а не гипотез. В ее основе истории о том, каким искусственный интеллект будет примерно через 20 лет.

Для нас наиболее интересна глава, посвященная квантовым компьютерам, которая называется «Квантовый геноцид». В этом научно-фантастическом рассказе технологический гений использует передовые технологии для почти успешной попытки вернуть человечество в доцифровую эпоху. Насколько реалистичен этот сценарий? Какие технологии 2041 года представляют самую большую угрозу для нашей цивилизации?

Квантовая революция: прорыв или угроза?

Квантовые компьютеры обещают произвести революцию в вычислениях, предлагая экспоненциальный рост мощности по сравнению с традиционными системами. В отличие от классических компьютеров, оперирующих битами (0 или 1), квантовые используют кубиты, способные существовать в двух состояниях одновременно благодаря принципу суперпозиции.

«Добавление всего одного кубита удваивает вычислительную мощность квантового компьютера, — объясняет в книге Алан Уайт, физик-теоретик из Массачусетского технологического института. — Это принципиально иной подход к вычислениям, который может решать задачи, непосильные для традиционных суперкомпьютеров».

Второе ключевое свойство квантовых систем — квантовая запутанность, когда кубиты становятся взаимозависимыми и действие с одним влияет на другие, даже если они физически разделены. Именно эта особенность позволяет квантовым компьютерам обрабатывать сложные задачи параллельно, а не последовательно.

Для решения практических задач необходимо минимум 4000 логических кубитов, что потребует (из-за необходимости коррекции ошибок) около миллиона физических. По оценкам экспертов, первые полноценные квантовые компьютеры могут появиться через 10–30 лет, но с вероятностью 80% они будут созданы к 2041 году, уверяют авторы книги.

Уязвимость криптографии в квантовую эпоху

Одной из первых жертв квантовых вычислений, по мнению авторов книги, может стать современная криптография. Большинство систем шифрования, включая RSA и эллиптические кривые, основаны на математических задачах, которые классическим компьютерам решать крайне сложно. Однако квантовые алгоритмы, такие как алгоритм Шора, способны эффективно решать эти задачи.

Квантовый компьютер с 4000 кубитов сможет взломать практически любой современный шифр за считанные минуты, считают авторы. В рассказе «Квантовый геноцид» хакеры пытаются получить доступ к биткоин-кошельку предполагаемого создателя криптовалюты Сатоши Накамото, где хранится более миллиона биткоинов. Однако их опережает злоумышленник с доступом к квантовому компьютеру. Это не просто художественный вымысел. Около двух миллионов биткоинов (стоимостью более 120 млрд долларов по курсу начала 2021 года) хранятся в устаревшем формате P2PK, который особенно уязвим для квантовых атак. В этом формате открытый ключ виден всем в публичном реестре, что позволяет квантовому компьютеру вычислить закрытый ключ.

Автономное оружие: третья революция в военном деле

Если квантовые компьютеры представляют угрозу для цифровой безопасности, то автономное оружие угрожает физическому существованию человечества. Эксперты называют его третьей революцией в военном деле после изобретения пороха и ядерной бомбы.

В рассказе «Квантовый геноцид» рои дронов атакуют ключевую нефтяную инфраструктуру и систематически уничтожают людей из «черного списка Судного дня». Эти беспилотники способны самостоятельно идентифицировать цели и принимать решения об атаке без вмешательства человека. И это не научная фантастика. Израильский дрон Harpy уже сейчас способен самостоятельно выслеживать цели и уничтожать их. А в ближайшие годы такие системы станут еще более автономными и смертоносными, утверждают Кай-Фу Ли и Чэнь Цюфань.

Рой смерти: неотвратимая угроза

Особенно опасным сценарием является применение роевых технологий в автономном оружии. В отличие от одиночных дронов, рой способен координировать свои действия, адаптироваться к противодействию и атаковать с разных направлений одновременно. Технологии распознавания лиц и отслеживания цифровых сигналов позволяют таким дронам идентифицировать конкретных людей или группы людей. Это открывает пугающую перспективу целенаправленного истребления определенных категорий населения — от политических оппонентов до этнических групп.

В отличие от ядерного оружия, автономное оружие не создает эффекта взаимного гарантированного уничтожения. Первая атака может остаться незамеченной или быть приписана другому субъекту, что делает возмездие неопределенным. Эксперты предупреждают, что мы стоим на пороге новой гонки вооружений, которая может оказаться более опасной, чем гонка ядерных вооружений XX века. Как только одна страна создаст продвинутое автономное оружие, другие почувствуют необходимость разработать что-то еще более смертоносное.

Возможные решения: как предотвратить катастрофу

Перед лицом этих угроз эксперты предлагают несколько подходов к решению проблемы.

Первый подход («человек в цикле») подразумевает, что любое решение об уничтожении человека может принять только человек. Однако такое ограничение снижает эффективность автономного оружия, что делает его менее привлекательным для военных.

Второй подход — полный запрет автономного оружия на международном уровне. Такие организации, как Campaign to Stop Killer Robots, активно выступают за это решение, и их поддерживают тысячи экспертов, включая Илона Маска и покойного Стивена Хокинга.

Третий подход предполагает жесткое регулирование разработки и применения автономного оружия. Однако здесь возникают сложности с определением технических спецификаций и проведением эффективного аудита.

Квантовая защита: есть ли решение?

Для защиты от квантовых атак на криптографические системы разрабатываются постквантовые алгоритмы шифрования, которые теоретически устойчивы даже к атакам квантового компьютера. Для владельцев криптовалют рекомендация проста: перевести свои активы в кошельки с современными стандартами защиты, такими как P2PKH или более новыми.

Заключение: технологии нейтральны, но люди — нет

«Технологии по своей сути нейтральны — и добром, и злом их делают люди, — подчеркивает Кай-Фу Ли, эксперт по искусственному интеллекту и автор аналитической части «Квантового геноцида». — Если мощность позволяет разрушить статус-кво, технология способна стать огнем Прометея или ящиком Пандоры — в зависимости от целей того, кто ее использует».

Нашей корпорации не впервой заниматься проектами, потенциально обладающими огромной разрушительной мощью, и ставить их на мирную службу человечеству. Уверен, что именно наш опыт будет служить гарантией того, что квантовые технологии будут только мирными.