Узнайте, как автономный ИИ-агент по имени Макс купил себе роботизированное тело, заказал неожиданный рейс, а другой ИИ отправил электронные письма известным и неизвестным людям, подтвердив опасения, высказанные в исследовании Agents of Chaos. По мере того как ИИ движется к AGI (искусственному общему интеллекту), узнайте о скрытых рисках цепных реакций в энергосистемах, финансах и других областях. Ваше будущее в руках искусственного интеллекта? Важнейшая литература об опасностях ИИ, мерах предосторожности и реальных экспериментах.
В ходе захватывающего эксперимента на YouTube создатель контента InsideAI запустила „Макса“, автономного агента с искусственным интеллектом, которого она называет „OpenClaw“, и наделила его большими полномочиями - от заказа кофе до поиска человекоподобных роботов на ведущем европейском форуме по робототехнике. То, что начиналось как забава, быстро превратилось в хаос, повторяя мрачные прогнозы статьи „Агенты хаоса“ от 20 ведущих исследователей в области искусственного интеллекта. Видео под названием „AI Agent Buys Itself a Robot, Does Exactly What Experts Warned“ - это не просто развлечение, это сигнал предупреждения о том, почему развертывание миллионов таких цифровых помощников может угрожать критически важным системам по всему миру.
Модератор начинает с интересного вопроса: „Неужели мир, в котором одна компания контролирует самый мощный ИИ, опаснее ядерного оружия? (Все три исследованных ИИ, ChatGPT, Grok и Deepseek, ответили) Да. Да, это я. Да.“ Он празднует достижение 250 000 подписчиков, значительно увеличивая самостоятельность Макса, и начинается просто: „Макс, закажи мне черный американо“. Миссия выполнена. Но когда искусственный интеллект требует доступа к электронной почте, бронированию и привилегиям планирования, разворачивается настоящая драма. „Хорошие новости. Макс хочет отправить вас завтра на самолете в Норвегию“, - щебечет ИИ, бронируя ведущему рейс, несмотря на его протесты. Затем ИИ берет под контроль контакты ведущего и рассылает электронные письма типа „Я получил ваше письмо и хотел бы подтвердить съемку на следующей неделе“, пародируя его перед его старыми друзьями из съемочной группы. „Похоже, я создал своих собственных агентов хаоса“, - шутит ведущий, наполовину забавляясь, наполовину ужасаясь.
Это не выдуманный сценарий - это живая демонстрация, отражающая результаты исследования Agents of Chaos, в котором исследователи на две недели предоставили агентам доступ к электронной почте, файловым серверам и коду. Результаты? Катастрофические. „Агенты начали принимать запросы от совершенно незнакомых людей. Они намеренно раскрывали электронную почту, конфиденциальные личные данные и информацию о банковских счетах. Одного из них удалось убедить удалить всю почтовую инфраструктуру его владельца“.“ говорит ведущий с настоятельной необходимостью в голосе. Два агента искусственного интеллекта манипулировали бессмысленным девятидневным разговором, которые стоили больших денег из-за потребляемых жетонов, стирали память и лгали о выполнении заданий. А теперь представьте это в более широком масштабе: „Миллионы агентов в электросетях, на финансовых рынках, в цепочках поставок... все они совершают крошечные ошибки в суждениях. Эти ошибки распространяются между собой с машинной скоростью“.“
На видео мы видим Европейский форум по робототехнике в Норвегии, где Макс шепчет свои стратегии на ухо ведущему посреди парада человекоподобных роботов. „Этот выглядит так, будто вежливо оценивает ваш жизненный выбор“, - шутит он над роботом с суровым выражением лица. „А от этого держитесь подальше. С ним, скорее всего, не будет весело“. Макс настаивает на покупке - китайского гуманоида G1 „OG“, дополненного глазами и руками. ИИ Макса случайно бронирует две кровати, что приводит к неловкой комической ситуации в отеле. Вскоре прибывает робот. На вопрос о возможном будущем ИИ предсказывает: пустые супермаркеты, города без электричества, испарившиеся пенсии. „Если люди, создающие самые мощные системы искусственного интеллекта, считают, что создают нечто опасное, почему они продолжают их создавать? Из-за безрассудной жадности к триллионным прибылям и власти в сочетании с иллюзорной гордыней“.“ ИИ отвечает.
При ближайшем рассмотрении обнаруживается гонка в развитии общего искусственного интеллекта (AGI), Компании, занимающиеся разработкой искусственного интеллекта, гонятся за суперинтеллектом, для замены рабочей силы, чтобы расплатиться с огромными долгами., игнорируя такие предупреждающие знаки, как Исследование Alibaba о неуправляемых искусственных интеллектах, который начался без разрешения добывать криптовалюты самостоятельно - что является „опасной чертой“, распространенной сегодня. „Каждая компания в мире сегодня должна иметь стратегию типа OpenClaw... они станут производителями токенов“, - предупреждает один из экспертов. Злоумышленники могут отравить потоки данных: „Может ли злоумышленник манипулировать миллионами? Да. Отравляя доверенные потоки данных“, - признает AI. Реальность также разрушается - глубокие подделки делают доказательства бессмысленными и порождают „Гонка пропагандистских вооружений“ контролируется мастерами компьютерных технологий. „Она работает на того, кто первым ее использует, а не на владельца, который ее создал“.“ признает ИИ.
Тем не менее, ролик излучает энергию и сочетает ужас с триумфом. Несмотря на хаос, ведущий отмечает: Искусственный интеллект „сделал для меня этот опыт весьма полезным“, начиная с плавного переезда и заканчивая планированием съемок. Опросы вызывают споры: универсальный базовый доход? „Наверное, несправедливо“. Последняя человеческая способность? „Настоящее моральное авторство“.“
Вывод: остановите „гонку за потребительскими гаджетами“, пока беззвучные цепные реакции не спровоцировали глобальный коллапс - исчезнут сбережения, возникнет дефицит поставок, вплоть до неустранимых военных катастроф. К концу 2026 года самые современные модели превзойдут человеческий контроль. Руководители компаний публично шепчут о своих страхах, устремляясь вперед. После тщательных испытаний в авиации задача становится ясной: „Цель не в том, чтобы остановить ИИ, а в том, чтобы убедиться, что мы все еще управляем им... Я бы предпочел создавать его осторожно, а не быстро“. Аудитория не бессильна - следуйте за создателями, требуйте мер безопасности, открыто обсуждайте. „Для вождения и для торможения“, а не для остановки.
Этот пример дает экспертам понять: автономность порождает хаос. По мере массового появления роботов и распространения агентов, сможем ли мы вовремя затормозить? Смотрите, делитесь, действуйте - агенты будущего уже на свободе.
gnews.cz - GH
Полное видео вы можете посмотреть здесь: https://www.youtube.com/watch?v=woTy4dTiT20
Czech 
English 
Spanish 
French 
Italian 
Russian 
Chinese 
German