Технологический прогресс сопровождает человечество с древних времен, но за последние два столетия он набрал беспрецедентные обороты. В то время как одни видят в нем спасение — лекарство от болезней, решение климатических проблем и путь к процветанию — другие испытывают все возрастающие опасения. Стоит ли нам бояться технологий? И действительно ли желательна скорость прогресса, которую мы наблюдаем сегодня? Этот вопрос требует диалектического подхода: признания как огромных преимуществ, так и серьезных рисков, которые несет с собой.

История предоставляет нам ясные параллели. В конце Второй мировой войны нацистская Германия отчаянно пыталась изменить судьбу посредством так называемых «Wunderwaffen» — чудо-оружия. Наиболее известными были ракеты V-2, первые баллистические ракеты, способные поражать цели на сотни километров. Эти ракеты, разрабатываемые под руководством Вернера фон Брауна, принесли террор лондонскому гражданскому населению, но одновременно заложили основы современной космонавтики. Так же и реактивные истребители Messerschmitt Me 262 представляли собой революцию в авиации — они были быстрее всего, что имели у себя союзники. И нельзя забывать о ранних вертолетах, таких как Focke-Wulf Fw 61, который продемонстрировал потенциал вертикального полета. Эти технологии возникли в контексте отчаяния и зла, тем не менее они повлияли на послевоенное технологическое развитие. Фон Браун и его команда были перевезены в США после войны в рамках операции Paperclip и участвовали в создании американской космической программы. Однако было бы ошибкой утверждать, что война сама по себе создает прогресс. Ракеты V-2 стоили огромных человеческих и материальных затрат, а их военная польза была ограничена. История скорее показывает, что некоторые технологии могут быть использованы позже для мирных целей, не оправдывая при этом обстоятельства их создания.

Похожую историю мы видим в период холодной войны между США и Советским Союзом. Гонка вооружений привела к огромным инвестициям в науку. Советский Спутник 1957 года шокировал Запад и запустил американскую реакцию в виде НАСА. Межконтинентальные баллистические ракеты, атомные подводные лодки, спутники — все это было мотивировано страхом перед врагом. Результатом, однако, стало не только накопление оружия массового уничтожения, но и революция в телекоммуникациях, компьютерных технологиях и материаловедении. Интернет сам по себе имеет корни в ARPANET, проекте американского министерства обороны. Гонка вооружений, безусловно, ускорила некоторые технологические инновации, одновременно поглощая огромные ресурсы и несколько раз приводя мир на грань ядерной катастрофы. Поэтому технологический прогресс нельзя автоматически считать доказательством правильности политического соперничества, которое его вызвало.

Кульминацией этого тренда стал в 1980-х годах проект «Star Wars» — Стратегическая оборонительная инициатива президента Рональда Рейгана. Целью было создание космического щита против советских ракет с помощью лазеров, частиц и спутников. Проект был технологически революционным, но также крайне спорным. Критики называли его дестабилизирующим и нереалистичным. До сих пор ведутся споры о том, насколько он действительно способствовал ослаблению Советского Союза. Некоторые историки подчеркивают его психологическое и экономическое воздействие, другие указывают прежде всего на структурные проблемы советской экономики. Тем не менее проект стал символом того, как технологическая конкуренция может влиять на геополитическую ситуацию. Одновременно он заложил основы для современной противоракетной обороны и развития технологий, которые мы используем сегодня в гражданском секторе — от GPS до передовых сенсоров.

Эти исторические примеры показывают, что быстрый технологический прогресс часто возникает в кризисных и конфликтных ситуациях. Война и соперничество действуют как катализатор. Вопрос же остается: желательна ли это и сегодня?

В настоящее время мы переживаем подобный бум вокруг искусственного интеллекта (ИИ). Как и ракеты V-2 или Me 262, ИИ представляет собой оружие двойного назначения. С одной стороны — огромный потенциал. ИИ уже сегодня помогает медицине диагностировать некоторые виды рака, оптимизировать логистические цепочки и ускорять разработку новых лекарств. Однако его значение не сводится лишь к автоматизации отдельных задач. Искусственный интеллект постепенно становится новой инфраструктурой экономики, подобно электричеству или интернету. Страны, которые смогут объединить мощные модели, достаточное количество энергии и полупроводниковые технологии, могут получить значительное стратегическое преимущество. Поэтому дискуссия об ИИ носит не только технологический, но всё чаще и геополитический характер.

С другой стороны, растут обоснованные опасения. Как и Wunderwaffen (чудесное оружие) могли продлить нацистскую агонию, так и ИИ может служить авторитарным режимам для массового наблюдения, распространения дезинформации и автономного оружия. «Роботы-убийцы» — автономные дроны, способные принимать решения о смерти без участия человека — уже тестируются. Однако речь идёт не только о возможности исчезновения рабочих мест. ИИ может радикально изменить саму природу труда. Под угрозой оказываются не только рутинные профессии, но всё чаще и деятельность, которая ранее считалась прерогативой квалифицированных специалистов — от переводчиков и юридических ассистентов до аналитиков. Общество может оказаться в ситуации, когда вновь придётся задуматься о том, как распределять экономические выгоды технологического прогресса. А самая глубокая тревога касается так называемого AGI (искусственного общего интеллекта) — системы, которая превзойдёт человеческий интеллект во всех областях. Если такая система выйдет из-под контроля, могут реализоваться сценарии, знакомые нам из научной фантастики, но которые уже серьёзно обсуждают такие учёные, как Джеффри Хинтон или Стюарт Рассел.

Здесь ключевую роль играет скорость прогресса. В прошлом на полное внедрение новых технологий и адаптацию общества к ним уходили десятилетия. Сегодня ИИ развивается ежемесячно. Компании, такие как OpenAI, Google или xAI, соревнуются в гонке, напоминающей во многом холодную войну. Различие заключается в том, что сегодня речь идёт не только о конкуренции отдельных компаний, но и о соперничестве между США, Китаем и Европейским союзом. Доступ к вычислительной мощности, данным, энергии и передовым чипам становится вопросом национальной безопасности и геополитического влияния. Эта скорость приносит инновации, но также и нехватку времени на этическую рефлексию, регулирование и социальную адаптацию. История учит нас, что неконтролируемые технологии могут привести к разрушению. Атомная бомба также была «чудесным оружием», завершившим войну, но оставившим наследие страха.

Для Чешской Республики дискуссия об искусственном интеллекте не является лишь теоретическим вопросом. Чешская экономика сильно зависит от промышленности, автомобилестроения и технических профессий. Автоматизация и ИИ могут повысить конкурентоспособность компаний, однако одновременно они поднимают вопросы относительно будущего некоторых рабочих мест. Поэтому вызовом будет не только разработка новых технологий, но и способность образовательной системы и государства подготовить сотрудников к меняющимся условиям рынка труда. Однако эта подготовка не должна ограничиваться только государственной системой. Она требует также фундаментального сдвига в метакогнитивных способностях личности. В эпоху искусственного интеллекта наше личностное развитие не должно сосредотачиваться исключительно на накоплении фактических знаний, которые машина обработает за долю секунды, а должно быть направлено на развитие способностей, которые остаются прерогативой людей. Речь идет прежде всего о критическом мышлении, моральном суждении в сложных ситуациях и способности связывать различные области знаний. В будущем победителем будет не тот, кто соревнуется с технологиями, а тот, кто научится использовать искусственный интеллект как рычаг для своей собственной креативности и эмпатии. Будущее труда, таким образом, является не только вопросом государственной стратегии, но прежде всего личной адаптации и способности человека стать архитектором своего синергетического отношения к машине. В этом смысле будущее ИИ будет определяться не только в лабораториях Кремниевой долины, но и в школах, предприятиях и учреждениях европейских стран, включая Чешскую Республику.

Диалектический подход требует не только поиска баланса между преимуществами и рисками. Он также требует понимания того, что технологии сами по себе не определяют направление истории. Мы не должны искусственно тормозить прогресс — это привело бы к отставанию и потере конкурентоспособности. Страны, которые закроются перед ИИ, окажутся в положении Советского Союза в 1980-х годах. Однако мы должны признать, что в контексте текущего геополитического соперничества реализация таких рамок крайне затруднительна. Мы оказываемся в ситуации, которую теория игр называет «дилеммой заключенного». Каждая из великих держав осознает риски, связанные с неконтролируемым развитием искусственного интеллекта, однако ни одна из них не может позволить себе остановиться первой, чтобы не отстать в технологической и стратегической гонке. Это взаимное недоверие и логика вооруженной гонки представляют собой наибольшее препятствие для действительно эффективной глобальной регуляции. Этика, прозрачность алгоритмов, защита данных и ответственность разработчиков должны идти рука об руку с инновациями.

Страх перед технологиями уместен — не парализующим страхом, а бдительным уважением. Как и ракеты V-2, которые принесли как разрушение, так и «Аполлон-11», так и ИИ могут вести к утопии или дистопии. Скорость прогресса важна для решения острых проблем человечества, таких как энергетика, болезни или бедность, однако она не должна быть безграничной. Ключом является не только разработка более совершенных технологий, но прежде всего качество институтов, политических решений и общественных ценностей, которые направляют их использование. Будущее не предопределено алгоритмами, и о том, станет ли ИИ инструментом процветания или источником конфликтов, в конечном итоге решают не машины, а люди посредством своих целей и границ, которые мы, как общество, решим сохранить.

Прокоп Стах