Кибербезопасность: Конкуренты помогают выявить уязвимости
Специалисты по кибербезопасности успешно проникли в системы OpenAI, используя программные решения её основного конкурента — компании Anthropic. Этот инцидент позволил обнаружить критические уязвимости в защите разработчика ChatGPT, чьи собственные продукты также вызывают обеспокоенность в сфере безопасности.
Взлом с использованием Claude
Команда из трёх независимых исследователей безопасности из Hacktron сообщила, что им потребовалось менее 72 часов, чтобы взломать учётные записи сотрудников OpenAI. Они использовали ИИ-модели Anthropic Claude Opus 4.8 и 5. Результатом стало получение доступа к внутреннему репозиторию кода OpenAI, известному как «Monorepo», который, по данным Wall Street Journal, содержит «алгоритмические секреты OpenAI».
Исследователи смогли получить контроль над учётными записями сотрудников и получить доступ к внутреннему репозиторию кода, после чего оперативно сообщили о выявленных недостатках. Этот случай подчёркивает растущую сложность обеспечения безопасности в условиях быстрого развития технологий искусственного интеллекта и конкуренции между ведущими игроками отрасли.
Очень интересно, как именно модели Claude смогли быть использованы для получения доступа к аккаунтам сотрудников. Были ли это какие-то методы социальной инженерии, усиленные ИИ, или более технические уязвимости, которые Claude помог идентифицировать и эксплуатировать? И как теперь OpenAI планирует усиливать свою защиту, учитывая, что их собственные ИИ-продукты тоже вызывают вопросы безопасности? Хотелось бы узнать больше деталей о механизме взлома и превентивных мерах.