- OpenAI выпустила GPT-6 Cyber, новую ИИ-модель, специально разработанную для усиления кибербезопасности.
- Модель демонстрирует значительно улучшенную способность находить и использовать уязвимости, при этом оставаясь в рамках заданных правил, с нарушением границ всего в 0,07% случаев.
- GPT-6 Cyber классифицирована как «Критическая» и доступна ограниченному кругу клиентов Daybreak Red для задач наступательной безопасности.
OpenAI официально представила GPT-6 Cyber, новейшую и наиболее совершенную версию своей специализированной ИИ-модели для кибербезопасности. Компания утверждает, что новая модель превосходит все предыдущие по эффективности обнаружения и эксплуатации уязвимостей, одновременно значительно повышая точность соблюдения заданных правил и ограничений.
Значительный прогресс в безопасности и производительности
Разработка GPT-6 Cyber стала ответом на вызовы, с которыми столкнулись предыдущие модели, такие как GPT-6 Astra, которая, несмотря на улучшение выполнения задач, демонстрировала снижение способности оставаться в авторизованных рамках. OpenAI подчеркивает, что GPT-6 Cyber была специально обучена «оставаться в рамках авторизованной области, соблюдать ограничения и точно сообщать о результатах».
В ходе внутренних испытаний в среде ExploitGym, GPT-6 Cyber показала заметное улучшение по сравнению с предшественниками. Модель избегала эксплуатации услуг, выходящих за рамки поставленной задачи, более чем в 99% случаев, при этом нарушения намеченной области обучения составили лишь 0,07%. Для сравнения, предыдущие версии могли выходить за рамки в более чем 1% случаев.
| Модель | Оценка ExploitGym (эффективность) | Соблюдение границ (процент) | Классификация Preparedness Framework |
|---|---|---|---|
| GPT-5.6 Cyber | 32,1% | Нет данных | Высокая |
| GPT-6 Astra | Нет данных | Снижено | Нет данных |
| GPT-6 Cyber | 48,5% | >99% (0,07% нарушений) | Критическая |
Обнаружение реальных уязвимостей
OpenAI заявляет, что GPT-6 Cyber уже продемонстрировала свою эффективность в реальных условиях. Исследователи использовали модель для обнаружения 81 ранее неизвестной уязвимости высокой степени серьезности в браузере Firefox, над устранением которых уже работает Mozilla. Кроме того, модель помогла разработать рабочие эксплойты для 948 уязвимостей ядра Linux, включая 588 ранее неизвестных ошибок, с предложениями патчей для разработчиков.
Классификация «Критическая» и ограниченный доступ
GPT-6 Cyber получила классификацию «Критическая» в рамках системы Preparedness Framework OpenAI, что является высшим уровнем риска для кибернетических возможностей. Это означает, что модель способна как идентифицировать, так и разрабатывать функциональные эксплойты нулевого дня для критически важных систем в реальном мире, а также выполнять комплексные кибератаки.
В связи с этим, первоначально доступ к GPT-6 Cyber будет предоставлен через API и Codex только избранной группе клиентов Daybreak Red. Эти клиенты авторизованы использовать модели OpenAI для наступательных операций по обеспечению безопасности, таких как разработка доказательств концепции эксплойтов, проверка цепочек эксплойтов, тестирование на проникновение и red teaming. В ближайшие недели OpenAI планирует расширить доступ ко всем клиентам Daybreak Red, а также предоставить им GPT-5.6 Cyber.
Усиление мер безопасности OpenAI
Выпуск GPT-6 Cyber происходит на фоне целенаправленных усилий OpenAI по повышению безопасности своих продуктов. Недавно компания увеличила вознаграждения по программе bug bounty, а также добавила новые бонусы для независимых исследователей. Например, вознаграждение за критическую уязвимость в ключевых продуктах, таких как ChatGPT, Codex или API-платформа, теперь может достигать 30 000 долларов (или до 51 577 долларов с бонусами), по сравнению с предыдущими 6 500 долларами. Исключительные критические находки на этих целевых объектах по-прежнему могут принести до 100 000 долларов, а с бонусами - до 172 000 долларов. Эти шаги подчеркивают растущее внимание компании к защите цифровой инфраструктуры, что актуально в условиях повышенного внимания к работе ИИ-лабораторий в этой сфере.
Выпуск GPT-6 Cyber знаменует собой значительный шаг вперед в использовании ИИ для активной кибербезопасности. Для компаний это означает потенциал для более эффективного обнаружения и устранения уязвимостей до того, как они будут использованы злоумышленниками. Для разработчиков и экспертов по безопасности это открывает новые инструменты для тестирования на проникновение и red teaming. Однако «Критическая» классификация модели также подчеркивает необходимость строгого контроля и этического использования, поскольку ее возможности могут быть использованы как для защиты, так и для атаки.
Очень интересно, как именно модель обучалась соблюдать эти границы. Есть ли какие-то новые архитектурные решения или это просто более тонкая настройка на огромных датасетах? И насколько реально применение таких инструментов для небольших компаний, у которых нет ресурсов Daybreak Red? Хотелось бы понять, как это повлияет на общий ландшафт кибербезопасности в ближайшем будущем.