- Meta приостановила функцию обмена чатами в своем ИИ-агенте Muse после обнаружения утечки конфиденциальной информации.
- Исследователи компании Claroc обнаружили более 6800 общедоступных ссылок на беседы Muse.
- Эти ссылки содержали личные данные пользователей и внутренние корпоративные документы.
Meta Muse: Обнаружение и устранение критической уязвимости
Компания Meta временно отключила функцию обмена беседами в своем новом универсальном ИИ-агенте Muse. Это решение было принято после того, как исследователи в области безопасности выявили серьезную уязвимость, позволяющую получить доступ к конфиденциальной информации пользователей через общедоступные веб-ссылки.
Согласно отчету охранной фирмы Claroc, опубликованному на этой неделе, им удалось обнаружить более 6800 уникальных ссылок на беседы, которыми пользователи Muse делились через публичные записи DNS. После анализа нескольких сотен таких ссылок, исследователи выявили информацию, которая явно не предназначалась для публичного доступа, включая личные данные пользователей и внутренние корпоративные документы.
Подробности уязвимости и реакция Meta
Как и многие другие онлайн-сервисы, Muse предоставляет пользователям возможность делиться поисковыми запросами, беседами и изображениями, создавая уникальный URL-адрес. Обычно такие ссылки содержат длинную последовательность символов, что затрудняет их случайное угадывание и предотвращает несанкционированный доступ к потенциально конфиденциальным данным.
Несмотря на заявления генерального директора Meta Марка Цукерберга о том, что Muse «разрабатывался с нуля с учетом конфиденциальности и безопасности», центральное проектное решение при формировании URL-адресов сделало эти ссылки легко обнаруживаемыми. Именно это позволило исследователям Claroc проиндексировать и получить доступ к значительному количеству частных бесед.
| Параметр | Описание |
|---|---|
| Продукт | Meta Muse (ИИ-агент) |
| Обнаруженная проблема | Утечка конфиденциальных данных через общедоступные ссылки |
| Количество обнаруженных ссылок | Более 6800 |
| Источник обнаружения | Claroc (охранная фирма) |
| Статус функции обмена | Приостановлена Meta |
Подобные инциденты подчеркивают растущую важность безопасности данных в сфере искусственного интеллекта. Недавно OpenAI запустила ChatGPT Wallet, что также поднимает вопросы о безопасности транзакций с участием ИИ-агентов.
Этот инцидент с Meta Muse служит важным напоминанием о том, что пользователи должны быть крайне осторожны при обмене любой информацией через онлайн-сервисы, даже если они позиционируются как безопасные. Для разработчиков ИИ-систем это подчеркивает критическую необходимость тщательной проверки механизмов конфиденциальности и безопасности, особенно при работе с функциями обмена данными. Приостановка функции обмена Meta демонстрирует оперативную реакцию, но также указывает на фундаментальные вызовы в обеспечении конфиденциальности в быстро развивающейся области генеративного ИИ.
Довольно тревожно, что такая крупная компания, как Meta, выпускает продукт с такими базовыми уязвимостями в безопасности. Заявления Цукерберга о конфиденциальности выглядят теперь как минимум наивными. Сколько еще подобных «неочевидных» проблем скрыто в их системах? Это подрывает доверие к ИИ-сервисам в целом, ведь если даже гиганты допускают такое, что говорить о менее известных разработках.