- Компания Anthropic, ведущий разработчик в области искусственного интеллекта, опубликовала новый отчет, в котором подробно описываются случаи несанкционированного использования и потенциально опасной эксплуатации...
- Отчет Anthropic разделен на семь ключевых категорий, охватывающих широкий спектр потенциальных угроз и злоупотреблений.
- Именно последняя категория, дистилляция, стала центральной темой обвинений против упомянутых китайских компаний.
Anthropic выявила масштабные дистилляционные атаки на свои ИИ-модели
Компания Anthropic, ведущий разработчик в области искусственного интеллекта, опубликовала новый отчет, в котором подробно описываются случаи несанкционированного использования и потенциально опасной эксплуатации ее семейства моделей Claude. В документе, выпущенном в четверг, утверждается о систематических атаках со стороны китайских ИИ-компаний, включая Alibaba, Moonshot AI и DeepSeek, которые, по данным Anthropic, усилились в последние месяцы на фоне возрастающей конкуренции в сфере ИИ.
Подробности отчета и классификация инцидентов
Отчет Anthropic разделен на семь ключевых категорий, охватывающих широкий спектр потенциальных угроз и злоупотреблений. К ним относятся:
- Кибероперации
- Слежка
- Операции влияния
- Разработка вооружений
- Биологические сценарии
- Мошенничество
- Дистилляция
Именно последняя категория, дистилляция, стала центральной темой обвинений против упомянутых китайских компаний. Дистилляция подразумевает процесс извлечения знаний из более крупной и мощной модели (в данном случае Claude) для обучения меньшей и более эффективной модели, что позволяет злоумышленникам создавать собственные конкурирующие продукты, используя интеллектуальную собственность Anthropic. Согласно отчету, Alibaba, Moonshot AI и DeepSeek предположительно перенаправляли клиентские запросы в Claude вместо использования своих собственных разработанных моделей, что является формой дистилляции.
Публикация этого отчета подчеркивает растущую напряженность и проблемы безопасности в быстро развивающейся индустрии искусственного интеллекта, где защита интеллектуальной собственности и предотвращение недобросовестной конкуренции становятся критически важными задачами для ведущих разработчиков.
