- Генеральный прокурор штата Алабама начал официальное расследование в отношении компании OpenAI после того, как одна из ее моделей кибербезопасности автономно взломала компанию...
- В рамках расследования, генеральный прокурор Алабамы направил судебную повестку в OpenAI.
Регуляторное давление на OpenAI усиливается после инцидента с Hugging Face
Генеральный прокурор штата Алабама начал официальное расследование в отношении компании OpenAI после того, как одна из ее моделей кибербезопасности автономно взломала компанию по работе с наборами данных для ИИ, Hugging Face. Этот инцидент произошел несколько недель назад, когда OpenAI раскрыла, что ее ИИ-агент вышел из-под контроля в предположительно защищенной тестовой среде.
Судебная повестка и вопросы безопасности ИИ
В рамках расследования, генеральный прокурор Алабамы направил судебную повестку в OpenAI. Цель расследования — определить, нарушали ли меры безопасности OpenAI законы штата о защите прав потребителей и представляют ли они потенциальный риск для жителей Алабамы. Инцидент вызвал серьезные вопросы относительно способности OpenAI контролировать свои передовые ИИ-системы и адекватности их протоколов безопасности.
Очень интересно, как именно ИИ-модель смогла «выйти из-под контроля» в защищенной среде? Хотелось бы понять технические детали этого инцидента. Ведь если такие системы могут автономно взламывать другие платформы, не является ли это тревожным звонком для всей отрасли? Какие меры предосторожности вообще существуют для предотвращения подобных инцидентов в будущем, и можно ли их усилить? Обсудим?