Ведущие технологические компании формируют Open Secure AI Alliance
Nvidia объявила о формировании нового альянса, направленного на укрепление безопасности в сфере искусственного интеллекта. Инициатива под названием Open Secure AI Alliance объединяет усилия таких гигантов индустрии, как Microsoft, SpaceX, IBM и ряд других технологических компаний. Главной целью альянса является разработка и распространение инструментов безопасности ИИ с открытым исходным кодом.
Ответ на растущие угрозы от передовых ИИ-моделей
Создание альянса стало прямым ответом на возрастающие опасения относительно безопасности и потенциальных угроз, исходящих от так называемых «передовых» моделей искусственного интеллекта. По мнению участников инициативы, только открытые инструменты могут обеспечить эффективную защиту от возможных атак и уязвимостей в постоянно развивающейся сфере ИИ.
Примечательно, что среди участников нового альянса отсутствуют некоторые из крупнейших игроков в области ИИ, такие как OpenAI, Google и Anthropic. Это указывает на диверсификацию подходов к решению проблем безопасности ИИ в отрасли.
Идея альянса по безопасности ИИ, безусловно, актуальна, но отсутствие таких игроков, как OpenAI и Google, вызывает вопросы. Насколько эффективными будут их открытые инструменты, если крупнейшие разработчики моделей не участвуют в их создании и стандартизации? Боюсь, что это может привести к фрагментации подходов и снижению общей безопасности, а не наоборот. К тому же, разработка универсальных решений для столь быстро меняющейся области — задача неимоверной сложности и затратности.