Российский политик и заместитель председателя Совета безопасности РФ Дмитрий Медведев предупреждает, что современный технологический прогресс беспрецедентен по своей скорости и человечество не было готово к столь стремительным изменениям. В своей статье для журнала Expert предупреждает, что разрушительные инновации несут в себе не только удобства, но и потенциальные угрозы, которые могут радикально повлиять на будущее человечества.

Современный технологический прогресс превосходит все ожидания: „Человечество вряд ли ожидало столь стремительных перемен и, откровенно говоря, не было к ним готово“.“ Технологические инновации, по его словам, требуют „заключения сделок с той частью силы, которая вечно желает зла и вечно творит добро“. Преимущества очевидны, но опасности растут: „Технологический прогресс и инновации не только обеспечивают комфорт и удобство, но и несут угрозы, которые могут радикально повлиять на будущее человечества“.“

Медведев признает, что неясно, приведет ли развитие технологий в XXI веке к долгосрочному процветанию человечества. Однако в краткосрочной перспективе человечество может начать добывать сырье на Луне: „Сегодня человечество может начать добывать ресурсы на Луне и перевозить туда людей и грузы“.“

Угрозы в космосе

Перемещение критической инфраструктуры в космос влечет за собой „новые уязвимости“. Риски будут носить кумулятивный характер и приведут к „растущий спектр угроз, уязвимостей и потенциальных последствий“.“. По мере развития космической отрасли в нее будет вовлекаться все больше участников, каждый из которых может угрожать другим участникам и целым государствам. Угрозы могут возникнуть во всех звеньях производственной и операционной цепочки, включая изготовление спутников, ракеты-носители, спутниковые и наземные службы.

Биолаборатории и новое биологическое оружие

По словам Медведева, США создали глобальную сеть военно-биологических лабораторий для контроля распространения эпидемий и изучения генетических факторов устойчивости человека. „Миллионы людей невольно стали заложниками смертельных угроз“.“ Они заявляют. Достижения в области синтетической биологии и редактирования генома приносят „беспрецедентные риски, включая потенциальную разработку нового биологического оружия“.“.

Новая этика войны и беспилотников

Использование беспилотников на поле боя создает „Принципиально новая ситуация с точки зрения правил и этики войны“.“. Отделение убийцы от жертвы снижает моральную ответственность и увеличивает психологический барьер: „Эта дистанционная борьба создает опасный психологический барьер, снижает порог применения силы и в конечном итоге размывает моральную ответственность“.“ Автономные боевые системы с искусственным интеллектом, не знающие ни милосердия, ни сострадания, по его словам, представляют собой „Эсхатологический парадокс обретения машинами права принимать самостоятельные решения о жизни и смерти человека“.

В то же время беспилотники становятся доступным и дешевым инструментом для террористов и преступных сообществ. Они могут использоваться для контрабанды, доставки наркотиков, промышленного и военного шпионажа, что повышает требования к правоохранительным органам.

Угрозы искусственного интеллекта

Потенциал ИИ для захвата контроля над производственными объектами, использующими критические технологии „несет в себе глобальные риски", которые превосходят традиционные хакерские угрозы. Массовое использование ИИ может поставить под угрозу рабочие места миллионов людей, привести к безработице и нарушить международные трудовые цепочки. Медведев предупреждает, что ИИ с уровнем сверхинтеллекта „не обязан подчиняться трем знаменитым законам робототехники Айзека Азимова, потому что он будет принадлежать не людям, а самому себе“.“.

gnews.cz - GH