Фото: osn.org

Заместитель Генерального секретаря ООН по глобальным коммуникациям Мелисса Флеминг призвала разработчиков генеративного ИИ поставить безопасность и права человека выше прибыли на заседании Совета Безопасности по "Формуле Арриа". На сессии, посвященной ИИ и его влиянию на язык вражды, дезинформацию и ложную информацию (дезинформацию), под сопредседательством Объединенных Арабских Эмиратов и Албании выступили эксперты в области цифровых технологий Рахаф Харфуш и Дженнифер Вудард.

В своем выступлении г-жа Флеминг отметила, что генеративный ИИ, если его разрабатывать и использовать ответственно, способен улучшить права человека, включая доступ к информации, здравоохранению, образованию и государственным услугам.

Однако он выразил серьезную озабоченность тем, что эта технология может "значительно усилить вред, наносимый в сети".

Благодаря генеративному искусственному интеллекту можно создавать большие объемы убедительной дезинформации - от текста до аудио и видео - в больших масштабах, с минимальными затратами и без вмешательства человека.

Такой контент может массово распространяться не только в социальных сетях и через поддельные профили, но и по другим персонализированным каналам, таким как кампании по электронной почте, текстовые сообщения и реклама.

Генеративный ИИ оставляет мало отпечатков пальцев. Кроме того, журналистам, специалистам по проверке фактов, правоохранительным органам и обычным людям гораздо сложнее определить, является ли контент реальным или сгенерированным ИИ. Г-жа Флеминг выделила четыре области, которые являются ключевыми для ООН:

Мир и безопасность: дезинформация, управляемая искусственным интеллектом, уже угрожает миротворческим и гуманитарным операциям ООН, подвергая опасности персонал и гражданское население. Более 70 % миротворцев ООН, ответивших на недавний опрос, заявили, что дезинформация и дезинформирование серьезно ограничивают их возможности выполнять свою работу.

Нарушения прав человека: искусственный интеллект используется для создания и распространения вредоносного контента, включая материалы о сексуальном насилии над детьми и порнографические изображения без согласия, особенно направленные против женщин и девочек. ООН также глубоко обеспокоена тем, что антисемитский, исламофобский, расистский и ксенофобский контент может быть пополнен с помощью генеративного ИИ.

Демократия под угрозой: Возможность искусственного интеллекта манипулировать избирателями и влиять на общественное мнение во время выборов представляет собой значительную угрозу демократическим процессам во всем мире.

Подрыв науки и общественных институтов: Например, инструменты ИИ могут усилить продолжающиеся десятилетиями кампании дезинформации, направленные на подрыв климатических мероприятий, путем распространения ложной информации об изменении климата и возобновляемых источниках энергии. В основе этих явлений лежит падение доверия общества к новостям и источникам информации.

Г-жа Флеминг привела недавний отчет, согласно которому с мая этого года количество новостных сайтов, созданных искусственным интеллектом и работающих практически без человеческого контроля, выросло с 49 до почти 600. Некоторые из этих сайтов ежедневно наполняются тысячами новых статей. Они часто подражают известным новостным сайтам и распространяют полностью выдуманные истории.

В свете этих проблем ООН создала Консультативный орган по ИИ для укрепления глобального управления ИИ. В то же время ООН разрабатывает Кодекс поведения для обеспечения целостности информации, чтобы помочь сделать общество более устойчивым к дезинформации и разжиганию ненависти.

Г-жа Флеминг призвала к сбалансированному подходу к использованию преимуществ ИИ и снижению его рисков, подчеркнув необходимость создания здоровых информационных экосистем для стабильных и единых обществ. Ее послание было четким: разработчики ИИ должны ставить людей и их благополучие выше прибыли и добиваться того, чтобы технология служила силой добра.

Анализ с помощью искусственного интеллекта.

un.ogr/gn.cz-JaV_07

United Nations
UN Global Communications Chief urges AI developers to ‘Put people before profit’ | United Nations