Дискуссии о безопасности китайских ИИ-моделей накаляются
По мере того, как возможности и популярность китайских моделей ИИ среди американских компаний растут, споры о необходимости их регулирования достигают апогея. Американская лаборатория Arcee, специализирующаяся на разработке открытых ИИ-моделей, высказалась против введения запрета на использование в США китайских моделей с открытыми весами (open-weight).
Позиция Arcee относительно открытого кода
Представители компании Arcee утверждают, что такие системы не представляют большей опасности, чем любое другое программное обеспечение с открытым исходным кодом. Эта позиция ставит под сомнение аргументы тех, кто призывает к ужесточению контроля или полному запрету китайских ИИ-разработок на американском рынке.
Arcee подчеркивает, что фундаментальные принципы безопасности и риски, связанные с открытым кодом, применимы к ИИ-моделям так же, как и к традиционному ПО. Таким образом, компания выступает за более взвешенный подход к оценке потенциальных угроз, фокусируясь на общих стандартах безопасности, а не на стране происхождения технологии.
Утверждение Arcee о том, что китайские ИИ-модели с открытым кодом не опаснее любого ПО, звучит несколько упрощенно. Все же, страна происхождения и потенциальное влияние на данные и алгоритмы не стоит полностью игнорировать. Открытый код не всегда гарантирует прозрачность в цепочке поставок или отсутствие скрытых уязвимостей, которые могут быть использованы. Хотелось бы увидеть более глубокий анализ реальных рисков, а не просто сравнение с общим ПО.