В 2014 году в Вашингтоне мне посчастливилось взять интервью у академика Роальда Сагдеева, физика с мировым именем, члена наблюдательного совета международного Люксембурского форума по предотвращению ядерной катастрофы, принимавшего участие во времена Горбачева в переговорах между СССР и США по ядерному разоружению.
В интервью, к слову, было сделано немало предсказаний, которые уже сегодня стали не очень радостной реальностью. Но сейчас внимание хотел бы обратить на следующий фрагмент:
«Вопрос: Насколько в условиях подобной риторики времен холодной войны, в ситуации, когда, возможно, дивизионы стратегических ракетных войск приведены в состояние повышенной боевой готовности, человечество может чувствовать себя спокойно?
Ответ: Это ключевой вопрос, даже если отставить в сторону вероятность реальной войны. Дело в том, что при существующей концепции ГВУ (гарантированного взаимного уничтожения) огромная роль отводится системе оповещения. Она основана на электронике: вычислительные машины, обработка данных радаров, спутниковых наблюдений и прочее. Мы знаем, что компьютерные системы могут ошибаться. Это означает, что человечество поставило себя в зависимость от какой-то малейшей ошибки.
В свое время я занимался вопросами разоружения (это была моя вторая специальность), участвовал в многочисленных конференциях, встречах с американскими экспертами. И на одной из конференций в Америке обсуждался вопрос: чему или кому человечество обязано, что в течение десятилетий холодной войны смогло все-таки выжить? Приводились многочисленные примеры, говорилось, что системы разведки вовремя оповещают, превозносилась мудрость руководителей. А один из участников конференции сказал: «Вы знаете, можно философствовать бесконечно, но я думаю, что мы выжили благодаря счастливой случайности».
И это не просто слова. Дело в том, что уже несколько раз человечество подходило к таким электронным ошибкам, ложным сигналам, когда и та, и другая сторона готовы были нажать на ядерную кнопку. И сейчас, когда мы погружаемся в болото новой, пусть даже не полномасштабной холодной войны, а холодного мира, снова возникает эта опасность».
Слова академика Сагдеева вспомнил не случайно. Высказанные им опасения на днях развил патриарх американской внешней политики Генри Киссинджер.
Архитектор американо-китайских и американо-советских отношений времён холодной войны, выступая неделю назад на форуме по международным делам Sedona Forum (ежегодный форум организуемый McCain Institute), характеризуя набирающий обороты кризис в отношениях с Китаем как «самую большую проблему для Америки и мира», сказал следующее:
«Мы создали технологию, которая превосходит все, что мы могли вообразить 70 лет назад. Во время советско-американской конфронтации ядерное оружие служило серьезной угрозой. Теперь к ядерной технологии добавился искусственный интеллект. Китай и США –лидеры в этой сфере. Это еще более приближает угрозу «судного дня».
Применение искусственного интеллекта означает, что человек и машина становятся партнерами, и машины могут обрести способность принимать собственные решения.
«В ходе военного конфликта между высоко технологичными державами это имеет колоссальные последствия», — предупредил Киссинджер.
Будем честными, от опасений и Роальда Сагдеева, и Генри Киссенджера, и многих других вдумчивых учёных и политиков, есть желание отмахнуться. И то верно, мир сегодня к проблеме ядерного противостояния крупных держав как-то попривык и все больше обеспокоен состоянием мировой экономки, пандемией COVID-19, глобальным изменением климата, правами трансгендеров и легализацией наркотиков.
Однако с учётом услышанных не так давно от вице-президента по развитию WEB-технологий корпорации Amazon откровений, картина будущего, если задуматься, рисуется вполне тревожной.
Во время традиционного бизнес-завтрака Технологического Совета Северной Вирджинии (Amazon давно облюбовал Вирджинию для размещения своего бизнеса) вице-президент техгиганта Тереза Карлсон (курировала проект Amazon по созданию для ЦРУ облачного сервиса) поведала присутствующим, что ввиду катастрофического дефицита на рынке труда специалистов по искусственному интеллекту, Amazon был вынужден приступить к обучению искусственного интеллекта (внимание!) навыкам самообучения. «И прогресс на этом направлении просто потрясающий и восхитительный !» — по-американски жизнеутверждающе подытожила докладчица.
Таким образом, Генри Киссинджер не так далёк от истины: искусственный интеллект практически уже не нуждается в интеллекте человеческом.
Интересно, что может думать прямо сейчас созданная людьми машина о своих создателях?
На день сегодняшний крупнейшие армии мира находятся в состоянии крайнего возбуждения.
НАТО на европейском театре проводит беспрецедентные со времён холодной войны учения Defender Europe 2021. Россия осуществила масштабную концентрацию своих вооружённых сил у границы с Украиной. США на Аляске, для отработки противодействия Китаю в Арктике, развернули манёвры с участием 15 тысяч солдат и офицеров, морской пехоты, сухопутных войск, ВВС, ВМС, в том числе авианосца Theodore Roosevelt.
Китай ускоренными темпами наращивает боевую группировку в Южно-Китайском море, а самолёты ВВС КНР систематически вторгаются в воздушное пространство Тайваня, намерено провоцируя ПВО острова. И всё это, судя по заявлениям политиков, только начало.
Помнится, по сценарию голливудского блокбастера «Терминатор», искусственный интеллект Скайнет, получивший контроль над ядерными ракетами Соединенных Штатов, разочаровавшись в человечестве, запустил процесс ядерной катастрофы. Этот день стал известен впоследствии как «Судный день».
Кажется, уже не слишком рано задаться вопросом: станет ли художественный вымысел нашим сценарием в реальности?
С ответом, надо полагать, тянуть не стоит, не тот случай.
