- На фоне участившихся инцидентов в сфере информационной безопасности, связанных с искусственным интеллектом, в технологической отрасли активно обсуждается необходимость регулирования темпов его развития.
- В своем эссе Амодеи предложил трехэтапный план по «модерации» или, как он выразился, «управлению темпами» развития передовых ИИ-моделей.
- Примечательно, что идея замедления прогресса в области искусственного интеллекта получила предварительную поддержку от других крупных игроков рынка.
Регулирование темпов развития ИИ: инициатива Anthropic
На фоне участившихся инцидентов в сфере информационной безопасности, связанных с искусственным интеллектом, в технологической отрасли активно обсуждается необходимость регулирования темпов его развития. Дарио Амодеи, генеральный директор Anthropic, выступил с призывом к ИИ-стартапам замедлить разработку новых систем.
План по «модерации» прогресса ИИ
В своем эссе Амодеи предложил трехэтапный план по «модерации» или, как он выразился, «управлению темпами» развития передовых ИИ-моделей. Одним из ключевых аспектов этой инициативы является предоставление доступа к моделям Anthropic сторонним оценщикам, таким как организация METR. Это позволит обеспечить строгое соблюдение протоколов безопасности и обязательств компании.
Примечательно, что идея замедления прогресса в области искусственного интеллекта получила предварительную поддержку от других крупных игроков рынка. Среди них — конкуренты в лице OpenAI, возглавляемой Сэмом Альтманом, и xAI Илона Маска.
Очень интересная дискуссия! Меня всегда волновал вопрос безопасности ИИ, и инициатива Anthropic кажется весьма своевременной. Но как именно будет осуществляться это «управление темпами» на практике, учитывая глобальную конкуренцию? И смогут ли сторонние оценщики действительно обеспечить полную прозрачность и независимость, когда речь идет о таких мощных технологиях? Хотелось бы понять механизмы глубже.