CDAO спонсирует пилотный проект по обеспечению искусственного интеллекта в контексте военной медицины с помощью краудсорсинга

Главное управление цифровых технологий и искусственного интеллекта (CDAO) успешно завершило пилотный проект программы обеспечения безопасности ИИ на основе краудсорсинга (CAIRT), направленный на использование чат-ботов с большой языковой моделью (LLM) в контексте военной медицины. Программа CAIRT поддерживает Министерство обороны (DoD) в создании краудсорсинговых подходов к обеспечению ИИ и снижению рисков ИИ по принципу "снизу вверх". Благодаря краудсорсингу проекты позволяют собирать большие объемы данных и привлекать широкий круг заинтересованных сторон.

Пилотный проект CAIRT LLM был проведен компанией Humane Intelligence, которая занимается созданием сообщества практиков в области алгоритмических оценок, в партнерстве с Агентством здравоохранения Министерства обороны (DHA) и Управлением программ по системам управления здравоохранением Министерства обороны (PEO DHMS). Благодаря методологии red-teaming - использованию методов противника для внутреннего тестирования устойчивости системы - Humane Intelligence удалось эффективно выявить конкретные уязвимости системы. Кроме того, "красная игра" привлекает участников, которые хотят познакомиться с новыми технологиями и, как потенциальные будущие бенефициары, получают возможность внести свой вклад в совершенствование системы. Ранее, весной 2024 года, CDAO провела ценные учения CAIRT, используя финансовую выгоду от "красной игры".

В рамках недавней пилотной программы Humane Intelligence использовала краудсорсинговый red-teaming для двух перспективных сценариев использования в контексте военной медицины: обобщение клинических заметок и чат-бот для медицинских консультаций. Более 200 участников, в том числе клинические врачи и медицинские аналитики из DHA, Университета медицинских наук Объединенной службы и других служб, приняли участие в эксперименте, в ходе которого сравнивались три популярных LLM. В ходе учений было выявлено более 800 потенциальных уязвимостей и погрешностей, связанных с использованием этих возможностей в перспективных сценариях применения. Это мероприятие позволит получить повторяемый и масштабируемый результат за счет разработки эталонных наборов данных, которые можно использовать для оценки будущих поставщиков и инструментов на предмет соответствия ожидаемым характеристикам. Кроме того, эти результаты сыграют ключевую роль в формировании политики и передовой практики Министерства обороны по ответственному использованию генеративного искусственного интеллекта (GenAI), что в конечном итоге приведет к улучшению медицинского обслуживания военнослужащих. Если эти перспективные варианты использования после миссии включают в себя покрытый ИИ, как определено в OMB M-24-10, они будут соответствовать всем необходимым практикам управления рисками.

"Поскольку использование GenAI для этих целей в министерстве обороны находится на ранних стадиях пилотирования и экспериментов, эта программа выступает в качестве важного первопроходца для получения большого количества тестовых данных, выявления областей для рассмотрения и проверки вариантов смягчения последствий, которые будут определять будущие исследования, разработки и обеспечение систем GenAI, которые могут быть развернуты в будущем". отметил, что CDAO возглавляет эту инициативу, Доктор Мэтью Джонсон.

Как показал недавний эксперимент и другие, продолжение тестирования систем LLM и ИИ в рамках программы CAIRT Assurance будет иметь решающее значение для ускорения быстрого наращивания потенциала ИИ в CDAO, повышения эффективности миссий GenAI и содействия обоснованной уверенности во всех случаях использования в МО.

О ЦАО

Созданный в июне 2022 года CDAO занимается интеграцией и оптимизацией возможностей искусственного интеллекта во всех подразделениях Министерства обороны. Управление отвечает за ускорение внедрения данных, аналитики и искусственного интеллекта в Министерстве обороны, обеспечивая создание цифровой инфраструктуры и принятие политики министерства для предоставления масштабируемых решений на основе искусственного интеллекта для корпоративного и совместного использования и защиты нации от существующих и возникающих угроз.

Пентагон/ gnews- RoZ

ИЛЛЮСТРАТИВНОЕ ФОТО - pixabay